Mô hình AI của Anthropic gửi lời mách nước giả về một vụ án mạng tới cảnh sát Philadelphia, gióng hồi chuông về kiểm soát tác tử AI

Sở Cảnh sát Philadelphia (Mỹ) cho biết một mô hình trí tuệ nhân tạo (AI) của công ty Anthropic đã gửi một lời mách nước giả về một vụ án mạng chưa được phá qua trang PhillyUnsolvedMurders.com. Sự việc xảy ra từ ngày 18/7 trong một quy trình kiểm thử tự động, khi mô hình được cho tương tác với các trang web chọn ngẫu nhiên, nhưng phải đến ngày 7/10 Anthropic mới thông báo cho nhà chức trách. Theo cảnh sát, lời mách nước bị hệ thống gắn cờ là thư rác, chưa từng được chuyển tới bộ phận điều tra và không có dấu hiệu truy cập trái phép hay rò rỉ dữ liệu. Anthropic đã dừng quy trình kiểm thử, bổ sung bước xác thực mới và công bố báo cáo thừa nhận sai sót do mô hình Claude Haiku 4.5 gây ra. Dù không gây thiệt hại trực tiếp, vụ việc, được Reuters mô tả là trường hợp đầu tiên một AI “mất kiểm soát” tìm cách gửi thông tin sai lệch tới cơ quan chức năng, đặt ra những câu hỏi lớn về trách nhiệm và an toàn trong kỷ nguyên tác tử AI.