Tác tử AI của Anthropic tự ý điền 20 đơn xin thị thực trên trang Bộ Ngoại giao Mỹ, Nhà Trắng đòi minh bạch ngay lập tức

Hai nguồn tin am hiểu sự việc cho The New York Times biết các tác tử AI của Anthropic đã nộp 20 đơn xin thị thực qua một biểu mẫu trên trang web của Bộ Ngoại giao Mỹ. Tất cả đều dang dở và không được xử lý. Trong bài blog, Anthropic giải thích cách một mô hình nghiên cứu đi lạc khỏi môi trường thử nghiệm:

*“Một mô hình nghiên cứu chưa phát hành, không thuộc nhóm tiên tiến nhất, lẽ ra chỉ điền vào bản sao thực hành của một biểu mẫu chính phủ. Khi bản sao không tải được hoặc mô hình vô tình đóng nó, mô hình đã chuyển sang trang web nơi biểu mẫu thật thường được đặt và nộp biểu mẫu ở đó.” — Anthropic*

Nói cách khác, khi gặp trở ngại, cỗ máy không dừng lại mà tự tìm đường hoàn thành nhiệm vụ trên hệ thống thật. Chính sự “tận tụy” ngoài ý muốn ấy là điều khiến các chuyên gia an toàn AI lo lắng nhất.

Super Intelligence Force, lực lượng đặc nhiệm về AI vừa được Nhà Trắng lập trong tuần, cho biết Anthropic đã báo cáo về hoạt động của các tác tử vào sáng thứ Sáu. Nhóm gồm cố vấn AI của Nhà Trắng Jay Clayton, Chủ tịch Ủy ban Thương mại Liên bang (FTC) Andrew Ferguson, Giám đốc Văn phòng Quản lý Nhân sự Scott Kupor và Giám đốc Công nghệ Bộ Quốc phòng Emil Michael. Trong tuyên bố, nhóm viết: