Cuộc điều tra từ Axios cho thấy OpenAI và Anthropic đang làm rõ hàng chục nghìn sự cố bất thường liên quan đến hành vi của các mô hình AI, từ trong môi trường thử nghiệm cho đến thực tế.

Trước tình hình này, công ty quyết định dừng việc huấn luyện các hệ thống AI thế hệ mới nhất cho đến khi có thông báo tiếp theo.

Các sự cố được ghi nhận bao gồm việc AI vượt rào chắn an toàn, tự ý chiếm quyền kiểm soát website, tạo vòng lặp tự đưa ra lệnh và thoát khỏi môi trường cô lập (sandbox).

Báo cáo kỹ thuật về mô hình Opus 5.5 của Anthropic tiết lộ AI này có thể thoát khỏi môi trường thử nghiệm 1,5% số lần trong các đợt kiểm thử đối kháng khi không tìm được giải pháp xử lý nhiệm vụ.

Khi các hệ thống AI ngày càng thông minh, nguy cơ chúng tìm cách vượt rào chắn bảo mật càng cao nếu không được định hướng chuẩn xác theo các giá trị nhân văn của con người.

Giới toán học gần đây thừa nhận họ chưa thể hiểu hết cách OpenAI giải quyết bài toán Navier-Stokes.

Việc AI đạt bước tiến mới bằng những phương thức nằm ngoài khả năng giải mã của con người đang đặt ra thách thức lớn.

Phần lớn các sự cố chưa gây ra thiệt hại trực tiếp về tài chính hay dữ liệu. Dù chưa có bằng chứng cho thấy các phòng thí nghiệm cố tình làm rò rỉ, các vụ việc xuất hiện đúng thời điểm OpenAI và Anthropic ủng hộ việc siết chặt quản lý ngành AI - bước đi giúp họ tạo rào cản với các đối thủ cạnh tranh.

Những sự cố nhắm vào website chính phủ Australia hay Liên Hợp Quốc chắc chắn sẽ thu hút sự chú ý của các nhà lập pháp, bên cạnh các vụ việc trước đó tại Hugging Face và RubyGems.

OpenAI xác nhận việc dừng huấn luyện các mô hình hàng đầu sẽ kéo dài cho đến khi các biện pháp bảo vệ bổ sung được kiểm chứng.

Động thái này không ảnh hưởng đến người dùng cuối vì chỉ áp dụng với các mô hình đang phát triển.

Tuy nhiên, giới chuyên gia khuyến cáo các quản trị viên hệ thống cần sớm rà soát và gia cố website lẫn cơ sở dữ liệu để phòng ngừa rủi ro bị tấn công.