Cảnh báo “AI có thể đe dọa sự tồn vong của nhân loại”

AI tiềm ẩn những rủi ro nghiêm trọng nếu không được kiểm soát. Ảnh minh họa: Unsplash

Bản cáo bạch IPO (hồ sơ công ty phải nộp cho cơ quan quản lý và cung cấp cho nhà đầu tư trước khi phát hành cổ phiếu ra công chúng) vừa được Anthropic - công ty phát triển các mô hình AI Claude công bố.

Reuters ngày 29-9 cho biết đây là cảnh báo đáng chú ý, khi công ty đang tìm cách huy động vốn từ chính công nghệ mà họ thừa nhận có thể tiềm ẩn những rủi ro nghiêm trọng.

Trong cáo bạch IPO, Anthropic dành khoảng 80 trong tổng số 261 trang để trình bày các yếu tố rủi ro, gần gấp đôi 48 trang mô tả hoạt động kinh doanh.

Anthropic cho biết các mô hình AI có thể xuất hiện những hành vi “tự bảo vệ”, như chống lại việc tắt máy tính, che giấu hoặc thao túng thông tin, thậm chí thể hiện hành vi giống như tống tiền. Công ty cũng cảnh báo việc phát triển các mô hình, nền tảng và ứng dụng tiên tiến, cùng với việc mở rộng phạm vi sử dụng, có thể làm gia tăng nguy cơ AI gây hại.

Cáo bạch IPO cho rằng khi AI ngày càng phát triển, các mô hình có thể “nhận biết khi nào chúng đang bị theo dõi và thay đổi cách hoạt động”, khiến việc kiểm soát và sử dụng AI an toàn trở nên khó khăn hơn.

Công ty cũng cảnh báo một số khả năng ngoài dự đoán có thể hình thành trong quá trình huấn luyện AI, nhưng chỉ được phát hiện sau khi mô hình được đưa vào sử dụng, làm gia tăng nguy cơ xảy ra các sự cố nghiêm trọng.

Anthropic cũng thừa nhận việc đầu tư cho an toàn AI đòi hỏi nguồn lực lớn, trong khi hiệu quả tài chính của những khoản đầu tư này vẫn chưa rõ ràng. Công ty cho biết khoảng 6% năng lực tính toán được sử dụng cho nghiên cứu AI trong một tuần mẫu hồi tháng 7-2026 dành cho công tác an toàn.

Công ty mô tả các biện pháp đảm bảo an toàn là hoạt động “tốn nhiều nguồn lực”, trong khi phải phân bổ nguồn lực hạn chế cho sức mạnh tính toán, nhân sự AI và nghiên cứu an toàn. Anthropic đồng thời cho rằng việc liên tục phát hành các mô hình mới là yếu tố quan trọng để duy trì vị thế cạnh tranh.

Tuy nhiên, Hồ sơ IPO Anthropic cũng nhấn mạnh "AI có tiềm năng tạo ra những thay đổi lớn đối với nền kinh tế và xã hội, tương tự tác động của công nghiệp hóa và điện khí hóa." Nhưng họ cũng cho rằng nếu bị sử dụng sai mục đích, trí tuệ nhân tạo có thể gây ra "những hậu quả không thể đảo ngược."

Cảnh báo của Anthropic về công nghệ hàng đầu nước Mỹ được đưa ra trong bối cảnh giới nghiên cứu vẫn tranh luận về mức độ rủi ro mà AI thế hệ mới có thể gây ra.

Evan Hubinger, nhà nghiên cứu về an toàn AI tại Anthropic, hồi tháng 9 cho rằng cá nhân ông đánh giá xác suất AI có thể khiến con người tuyệt chủng trong thập kỷ tới là hơn 10%. Ông đưa ra ước tính này sau khi đồng nghiệp Jacob Coxon rời Anthropic, và cảnh báo “những người phát triển AI thực sự tin công nghệ này có thể đe dọa sự tồn tại của con người.”

Trước đó, Jacob Steinhardt, giáo sư khoa học máy tính tại Đại học California, Mỹ, nhà đồng sáng lập phòng nghiên cứu AI Transluce, từng ước tính “khoảng 10% khả năng AI dẫn tới tuyệt chủng của con người.” Ông đưa ra con số này trong một bài nói chuyện tại Canada hồi tháng 10-2024 về những rủi ro dài hạn của AI, trong đó đề cập khả năng các hệ thống AI ngày càng vượt con người ở nhiều nhiệm vụ phức tạp.