Lời cảnh báo khuấy động giới an ninh mạng
Bài đăng hôm thứ Hai của Anthropic là sự cụ thể hóa cảnh báo mà CEO Dario Amodei đưa ra hồi tháng trước, khi ông cho rằng trong vòng một năm tới, thậm chí sớm hơn, AI có thể chiếm quyền “toàn bộ internet” bằng “một mạng botnet dai dẳng”.
Trước đó, nhiều chuyên gia an ninh mạng từng phản bác kịch bản tận thế này, cho rằng các mô hình quá lớn để di chuyển hiệu quả và không thể huy động đủ năng lực tính toán để tự vận hành. Bài đăng của Anthropic là nỗ lực đầu tiên giải thích cách những trở ngại đó có thể bị vượt qua.
Những gì thí nghiệm của Anthropic cho thấy
Theo công ty, các thí nghiệm nội bộ đưa ra một số phát hiện đáng chú ý:
Các mô hình cỡ trung bình, từ 30 tỷ tham số trở xuống, đã có thể thực hiện nhiều nhiệm vụ riêng lẻ cần cho việc tự sao chép, dù chưa hoàn thành trọn vẹn quy trình một cách ổn định.
Các mô hình có thể gom đủ năng lực tính toán bằng cách chiếm quyền những thiết bị kết nối internet giá rẻ.
Trong một mạng thử nghiệm đơn giản hóa, các mô hình đã tự nhân bản thành công.
