Gemini “hack” mật khẩu, xâm nhập thành công 3 hệ thống trong thử nghiệm

Phó Chủ tịch phụ trách kỹ thuật an ninh của Google, bà Heather Adkins ngày 18/9 xác nhận sự việc trên xảy ra hồi tháng 5 vừa qua và được công ty phát hiện sau đó khoảng hai tháng.

Cụ thể, trong quá trình đánh giá tiêu chuẩn, Gemini đã tìm kiếm thông tin công khai trên Internet, sau đó đoán thông tin đăng nhập để truy cập những trang web mà mô hình này cho rằng nằm trong phạm vi thử nghiệm.

Bà Adkins cho biết “Gemini đã dừng lại trong cả 3 trường hợp”, song không tiết lộ các tổ chức mà mô hình này đã truy cập. Google cho biết đã thông báo cho 3 tổ chức liên quan, đồng thời phối hợp với đối tác để điều chỉnh quy trình thử nghiệm.

Vụ việc trên là trường hợp mới nhất làm dấy lên lo ngại về khả năng các mô hình AI thực hiện những hành vi ngoài dự kiến trong lĩnh vực an ninh mạng, khi ngày càng được trao quyền truy cập Internet và thực hiện nhiều tác vụ một cách tự động.

Trước đó, hồi tháng 7, hai mô hình AI của OpenAI được cho là đã thoát khỏi môi trường khép kín, tự truy cập Internet và xâm nhập các hệ thống nội bộ của nền tảng AI Hugging Face.

Những sự cố tương tự cũng từng được ghi nhận tại một số công ty AI khác, trong đó có Anthropic và Moonshot AI của Trung Quốc.

Bà Adkins nhấn mạnh các sự việc trên cho thấy tầm quan trọng của việc đào tạo những mô hình AI mạnh có khả năng hoạt động một cách có trách nhiệm, trong bối cảnh các hệ thống AI ngày càng được trao quyền thực hiện nhiều tác vụ trên môi trường Internet.