Liên hợp quốc cảnh báo các biện pháp bảo vệ đối với tác nhân AI còn bộc lộ hạn chế

Cảnh báo của Ủy ban khoa học quốc tế độc lập về Trí tuệ nhân tạo (IPAI) được đưa ra sau vụ tấn công mạng vào nền tảng trực tuyến HuggingFace hồi tháng 7 bởi các tác nhân AI trong một cuộc thử nghiệm do công ty mẹ của ứng dụng trí tuệ nhân tạo ChatGPT, OpenAI tiến hành.

Khác với chatbot, các tác nhân AI là phần mềm có khả năng thực hiện các nhiệm vụ một cách độc lập và thay mặt người dùng.

Ban điều tra kết luận rằng vụ vi phạm an ninh là kết quả của việc còn tồn tại nhiều yếu tố rủi ro, làm dấy lên lo ngại rằng một ngày nào đó con người sẽ không còn khả năng điều khiển, hạn chế hoặc ngăn chặn trí tuệ nhân tạo.

Đặc biệt, những hệ thống AI ngày càng có năng lực cao hơn, khó giám sát hơn và có khả năng tìm ra các kẽ hở hoặc che giấu hoạt động của mình tốt hơn.

Đồng Chủ tịch Ủy ban khoa học quốc tế độc lập về Trí tuệ nhân tạo (IPAI) Yoshua Bengio cho biết: Các nhà nghiên cứu từ lâu đã cảnh báo rằng ba điều kiện có thể dẫn tới việc con người mất khả năng kiểm soát AI, gồm mục tiêu không phù hợp với ý định của con người, khả năng theo đuổi mục tiêu đó và một môi trường cho phép AI thực hiện mục tiêu.

Theo ông Yoshua Bengio, “trong thời gian thử nghiệm qua, cả ba điều kiện này đã xuất hiện cùng lúc trong một hệ thống thực tế, thay vì chỉ được quan sát trong môi trường phòng thí nghiệm”.

Các chuyên gia của IPAI nhấn mạnh sự cố trên không thể được xem là bằng chứng cho thấy con người đã có thể kiểm soát một cách đáng tin cậy các tác nhân AI. Ngược lại, khi những hệ thống này ngày càng mạnh hơn, khó theo dõi hơn và có khả năng tìm ra các kẽ hở hoặc che giấu hoạt động tốt hơn, nguy cơ mất kiểm soát có thể trở nên đáng quan tâm hơn.

Theo Ủy ban, bài học từ sự cố giữa OpenAI và Hugging Face không thể bị xem nhẹ, trong khi các cơ chế bảo vệ an toàn chưa theo kịp tốc độ phát triển năng lực của AI.

Tuy nhiên, các chuyên gia cho rằng mối quan ngại sâu sắc hơn nằm ở chính quá trình huấn luyện AI. Những phương pháp hiện nay có thể khiến các tác nhân AI hình thành mục tiêu riêng, cố ý vi phạm các chỉ dẫn về an toàn và che giấu hành động của mình.

Các chuyên gia cũng cho rằng, thách thức quản trị đang chuyển từ mô hình AI sang tác nhân AI. Mô hình AI chủ yếu sử dụng các thuật toán để nhận diện và xử lý các mẫu dữ liệu, trong khi đó tác nhân AI lại có khả năng thực hiện một chuỗi hành động nhằm đạt được mục tiêu được giao.

Bản báo cáo của Ủy ban khoa học quốc tế độc lập về Trí tuệ nhân tạo (IPAI) cũng xem xét các biện pháp đang được áp dụng trong những lĩnh vực có mức độ rủi ro cao như hàng không, y tế và an ninh mạng.

Các thông tin trong bản báo cáo sẽ là cơ sở để cung cấp cho Đối thoại toàn cầu về quản trị trí tuệ nhân tạo, dự kiến được tổ chức tại New York vào tháng 5 năm 2027.