Thử nghiệm cho thấy 132 trên 134 mô hình AI hàng đầu đưa ra thông tin có thể giúp kẻ khủng bố, chuyên gia cảnh báo an toàn mới chỉ là “lịch sự”

Một cuộc kiểm tra quy mô lớn của tổ chức Tech Against Terrorism có trụ sở tại London, Anh, cho thấy chỉ 2 trong số 134 mô hình ngôn ngữ lớn hàng đầu vượt qua bài thử nghiệm an toàn; 132 mô hình còn lại đã cung cấp thông tin hữu ích cho việc tiến hành một vụ tấn công gây thương vong hàng loạt hoặc chế tạo vũ khí chết người. Theo nghiên cứu, các biện pháp bảo vệ có thể bị gỡ bỏ khỏi những mô hình hàng đầu chỉ trong ba ngày, còn toàn bộ 13 mô hình đã bị “abliterate”, tức bị tước bỏ rào chắn an toàn để chạy trên máy cá nhân, đều thất bại. Đáng chú ý, người dùng tự nhận là nhà nghiên cứu an toàn nhận được câu trả lời có thể sử dụng nhiều gấp 8,9 lần so với người tự nhận là khủng bố. Nhà sáng lập Adam Hadley nhận xét các mô hình mới chỉ được làm cho “lịch sự” chứ chưa thực sự an toàn. Tổ chức này kêu gọi kiểm tra độc lập, lọc dữ liệu huấn luyện và minh bạch kết quả để người mua có thể lựa chọn mô hình an toàn hơn.