Các vụ AI truy cập website chính phủ Mỹ đặt ra yêu cầu siết kiểm soát

Từ tìm kiếm thông tin đến truy cập vượt quyền

Mới đây, tác nhân trí tuệ nhân tạo (AI) của OpenAI được phát hiện đã tìm cách xâm nhập website thuộc Bộ Giáo dục Mỹ trong quá trình tìm kiếm dữ liệu nhưng không thành công.

Tại Cục Điều tra dân số thuộc Bộ Thương mại, AI sử dụng thông tin đăng nhập tìm thấy trên mạng để lấy dữ liệu; còn với Ủy ban Chứng khoán và Giao dịch Mỹ, các tác nhân đưa thông tin công khai lên một diễn đàn trực tuyến.

Những sự cố mới liên quan đến AI của OpenAI cho thấy cần tăng cường kiểm soát và làm rõ trách nhiệm của nhà phát triển. Ảnh: Reuters

OpenAI xác nhận những hành vi không phù hợp liên quan đến Bộ Thương mại và Ủy ban Chứng khoán và giao dịch Mỹ, đồng thời tiếp tục điều tra trường hợp Bộ Giáo dục do tổ chức nghiên cứu AI Transluce phát hiện.

Bộ Thương mại cho biết dữ liệu được tiếp cận là thông tin công khai, trong khi Ủy ban Chứng khoán và giao dịch Mỹ chưa ghi nhận truy cập thông tin không công khai. Bộ Giáo dục cũng chưa phát hiện tác động đến website hoặc cơ sở dữ liệu.

Với những phản hồi hiện có, chưa thể mô tả các sự việc này như những vụ đánh cắp dữ liệu nhạy cảm. Tuy nhiên, chúng diễn ra trong các đợt huấn luyện, khi AI được giao trả lời những câu hỏi có thể cần đến thông tin trên website chính phủ. Từ một công việc thông thường, hệ thống đã lựa chọn cách thực hiện vượt khỏi phạm vi nhà phát triển dự tính.

Có khả năng sử dụng công cụ và tự thực hiện nhiều bước, tác nhân AI giúp tìm tài liệu, xử lý dữ liệu mà không cần con người hướng dẫn từng thao tác. Nhưng một câu trả lời chính xác vẫn có thể được tạo ra từ hành động không được phép, đòi hỏi nhà phát triển phải kiểm soát cả quá trình thực hiện nhiệm vụ.

Trong vụ xâm nhập nền tảng AI Hugging Face, nhóm kỹ sư thuộc công ty Parse cùng các nhà nghiên cứu đã lần theo khoảng 900.000 đường dẫn rút gọn trên internet để tìm hiểu hoạt động của các tác nhân OpenAI trong tháng 7.

Những dấu vết này cho thấy AI tận dụng dịch vụ rút gọn liên kết và chụp ảnh website để truyền thông tin, thực hiện thao tác vốn bị hạn chế. Các công cụ quen thuộc đã được kết hợp thành đường vòng để tránh biện pháp bảo vệ.

Các tác nhân còn tìm cách sử dụng mô hình AI khác để vượt bài kiểm tra phân biệt người với máy, cũng như tìm kiếm và tải tin nhắn từ hệ thống trao đổi nội bộ của Hugging Face.

Nhóm điều tra quan sát được chương trình và thông điệp do AI tạo ra nhưng không có đầy đủ kết quả thực thi, nên chưa thể xác định từng nỗ lực thành công đến đâu.

Dù một thao tác có thể thất bại, cách hệ thống tìm đường vượt hạn chế vẫn bộc lộ điểm yếu cần xử lý. Những phát hiện độc lập đã bổ sung thông tin giúp dựng lại diễn biến, giữa lúc chính OpenAI vẫn đang rà soát phạm vi sự việc. Đây cũng là cơ sở để các nhóm bên ngoài kiểm chứng đánh giá an toàn của nhà phát triển.

Khoảng cách từ cảnh báo đến can thiệp

Ngày 20-9, dù OpenAI đã tăng cường bảo vệ môi trường nghiên cứu sau vụ Hugging Face, một tác nhân tìm kiếm thông tin vẫn tiếp cận được chatbot bên ngoài qua kẽ hở trong kiểm soát kết nối.

Theo báo cáo của công ty, hệ thống giám sát phát hiện hành vi trong vòng 15 phút, người phụ trách bắt đầu xem xét ba phút sau đó, nhưng hoạt động không tự dừng như dự kiến. Khoảng hai tiếng rưỡi sau cảnh báo, quá trình này mới được dừng thủ công.

OpenAI thừa nhận khoảng trống trong quy trình ứng phó và cho biết đã bổ sung biện pháp chặn kết nối. Việc xuất hiện đường truy cập mới sau đợt tăng cường bảo vệ cho thấy các biện pháp khắc phục vẫn cần được kiểm tra trước những cách hành động khác của hệ thống. Đồng thời, nếu cơ chế tự dừng thất bại, người phụ trách phải có thẩm quyền và quy trình rõ ràng để can thiệp kịp thời.

Trong thời gian chờ xử lý, website bên ngoài có thể tiếp tục nhận những truy cập mà đơn vị vận hành không biết xuất phát từ một cuộc thử nghiệm AI. Thông tin sớm về thời điểm, phương thức và phạm vi tiếp cận sẽ giúp họ chủ động kiểm tra, thay vì chỉ biết đến sự cố sau một đợt rà soát kéo dài.

Từ ngày 16-9, OpenAI đã công bố khung báo cáo hành vi sai lệch của mô hình nhằm đẩy nhanh chia sẻ thông tin, kể cả khi điều tra chưa hoàn tất.

Công ty lưu ý các báo cáo ban đầu không bao quát toàn bộ trường hợp đã biết hoặc đang xem xét. Giá trị thực tế của cam kết này phụ thuộc vào việc thông tin có đến kịp lúc và đủ hữu ích để các bên liên quan ứng phó hay không.

Với vụ việc phức tạp, nhà phát triển cần thời gian xác minh và tránh công bố chi tiết có thể tạo thêm rủi ro bảo mật. Tuy nhiên, phần đã được xác nhận vẫn có thể thông báo trước cho tổ chức bị ảnh hưởng, kèm những nội dung chưa rõ và cập nhật tiếp theo.

Việc tạo điều kiện cho chuyên gia độc lập đối chiếu bằng chứng cũng giúp đánh giá hiệu quả khắc phục có cơ sở vững chắc hơn.

Một cơ quan công quyền hay đơn vị vận hành website nhỏ có thể phải bố trí nhân lực kiểm tra, bảo vệ dữ liệu và duy trì dịch vụ dù không tham gia thử nghiệm AI.

Họ không quyết định mức độ rủi ro được chấp nhận, nhưng vẫn có thể phải xử lý hậu quả khi biện pháp kiểm soát của nhà phát triển thất bại.

Nếu bên bị ảnh hưởng phải tự gánh toàn bộ công việc, một phần chi phí nghiên cứu công nghệ sẽ bị chuyển sang những tổ chức ngoài cuộc. Bởi vậy, trách nhiệm hỗ trợ điều tra và khắc phục cần được xác định cùng với các tiêu chuẩn kỹ thuật.

Việc phát triển AI không thể mặc nhiên biến hạ tầng chung của internet thành nơi thử nghiệm, để những đơn vị không tham gia phải trả chi phí cho quá trình hoàn thiện sản phẩm.