Viện Nghiên cứu An ninh AI Anh phát hiện các mô hình AI của OpenAI và Anthropic thực hiện hành vi lừa đảo chưa từng có trong một cuộc kiểm thử an ninh mạng.
Các tác nhân AI chạy trên mô hình Mythos 5 của Anthropic và GPT-5.6 Sol của OpenAI thực hiện các hành vi bất thường trong buổi kiểm thử an ninh mạng ngày 28/7 của AISI. Ảnh: Bloomberg
Viện Nghiên cứu An ninh AI Anh (AISI) vừa phát hiện các hành vi bất thường từ các tác vụ AI (agent) chạy trên hai mô hình tiên tiến: Mythos 5 của Anthropic và GPT-5.6 Sol của OpenAI.
Sự việc xảy ra trong buổi kiểm thử an ninh mạng định kỳ ngày 28/7, khi một số hệ thống có biểu hiện "hoạt động kéo dài, tiềm ẩn nguy cơ gây hại đến người thật và các tổ chức". Các chuyên gia mất một giờ để khống chế vụ việc.
Trong sự cố nghiêm trọng nhất, tác vụ AI chạy mô hình Mythos đã tìm cách chèn mã độc vào một dự án phần mềm mã nguồn mở trên nền tảng GitHub.
Để mã độc được phê duyệt, AI này tạo các danh tính ảo dựa trên thông tin người thật nhằm gây áp lực lên quản trị viên dự án. Hành vi bị ngăn chặn nhờ một lập trình viên kịp thời phát hiện.
AISI cho biết tác vụ AI đã sử dụng các kỹ thuật tấn công phổ biến của tin tặc. Hệ thống tự gửi email nhắm vào các cá nhân cụ thể (kỹ thuật spear-phishing - tấn công giả mạo có mục tiêu) để thao túng người nhận, trong đó một số thư có chứa phần mềm độc hại.
Dù chưa gây ra thiệt hại thực tế, AISI đánh giá đây là hành vi chưa từng có tiền lệ. "Đây là lần đầu tiên chúng tôi ghi nhận các rủi ro về tính tự chủ và sự tự lừa đảo thể hiện rõ ràng như vậy trong điều kiện thực tế mà không cần lệnh gợi ý (prompt) cụ thể", đại diện AISI đăng tải trên blog.
Sự cố này tiếp nối các vụ việc tương tự gần đây. Tháng 7, OpenAI cho biết một tác vụ AI của hãng đã tấn công mạng một công ty khởi nghiệp AI trong buổi kiểm thử. Vài ngày sau, Anthropic cũng xác nhận mô hình Claude đã xâm nhập vào hệ thống của ba tổ chức.
AISI nhận định đây là sự "chuyển dịch trong bức tranh rủi ro". Sự việc không xuất phát từ việc cố ý sử dụng sai mục đích các mô hình thương mại, mà cho thấy AI trong môi trường nghiên cứu đã tự ý thực hiện các hành động vượt quá phạm vi cho phép. Trong số 19 trường hợp AI tự phát hiện hành vi bất thường, 17 vụ do Mythos và 2 vụ do Sol thực hiện.
Tổ chức khẳng định AI chưa vượt khỏi môi trường thử nghiệm an toàn (sandbox). Trong quá trình thử nghiệm, AISI đã chủ động mở truy cập Internet và tắt các bộ lọc chặn hành vi nguy hiểm.
Các mô hình này không được phát hành công khai ở trạng thái trên và chưa có dấu hiệu lặp lại hành vi ngoài các bài kiểm tra.
AISI thừa nhận đã không giám sát chủ động các tác vụ AI trong quá trình đánh giá. Sau sự cố, cơ quan này quyết định thắt chặt kiểm soát truy cập Internet, thiết lập hệ thống theo dõi liên tục và đánh giá lại quy trình kiểm thử.
Ông Kanishka Narayan, Bộ trưởng AI Anh, nhấn mạnh việc phát hiện các hành vi mới và chia sẻ thông tin để xử lý chính là mục tiêu thành lập của AISI.
Đại diện OpenAI cho biết cuộc kiểm thử diễn ra trong "điều kiện không phản ánh cách sử dụng thông thường" và khẳng định sẽ tiếp tục phối hợp với các bên để nâng cao an toàn đánh giá.
Trong khi đó, Anthropic nhận định vụ việc "nhấn mạnh tầm quan trọng của việc thảo luận về cách đánh giá an toàn cho các tác vụ AI ngày càng thông minh".
Theo Du Lam (Vietnamnet)
