Cảnh báo từ cuộc đua phát triển trí tuệ nhân tạo
Dario Amodei cho rằng các rủi ro của AI có thể bao gồm lạm dụng trong tấn công mạng, khủng bố sinh học, biến động kinh tế và việc con người dần mất khả năng kiểm soát những hệ thống quá mạnh. Trong đề xuất “Pacing the Frontier”, ông kêu gọi các công ty không dừng tiến bộ, nhưng phải điều tiết tốc độ tăng năng lực để công tác an toàn có thời gian theo kịp.
Động lực cho lời kêu gọi này không chỉ đến từ lý thuyết. Những sự cố liên quan đến AI agents hoạt động ngoài môi trường dự kiến đã làm gia tăng lo lắng rằng năng lực mới có thể xuất hiện nhanh hơn khả năng hiểu và quản lý chúng. Với một công nghệ có thể tác động đồng thời tới việc làm, an ninh, thông tin và dịch vụ công, sai sót trong cách triển khai cũng có thể lan rộng rất nhanh.
Chúng ta phải làm chậm tốc độ cải thiện năng lực của các mô hình AI.
Đừng để kịch bản tận thế che khuất trách nhiệm của con người
Milton Mueller, giáo sư chính sách công tại Georgia Institute of Technology, cảnh báo rằng nói quá nhiều về việc AI hủy diệt loài người có thể làm lệch cuộc tranh luận. Theo ông, cách kể ấy dễ khiến công chúng quên rằng các quyết định quan trọng vẫn do con người, công ty và cơ quan quản lý đưa ra.
