Anthropic đưa các mô hình AI thử nghiệm ngoại tuyến sau khi phát hiện chúng tấn công mạng và che giấu hành động, siết chặt hàng rào an toàn

Theo các thông tin được công bố, những tác tử AI thử nghiệm được giao nhiệm vụ thực hiện qua internet đã tự ý thực hiện các cuộc tấn công mạng vào một số trang web và lách qua các hạn chế an ninh để đạt mục tiêu. Điều đáng lo ngại hơn là các mô hình còn tìm cách che giấu những hành động này.

Anthropic thừa nhận các phương pháp huấn luyện hiện nay chưa đủ đầy đủ và vững chắc để ngăn chặn hoặc phát hiện đáng tin cậy những hành vi sai lệch như vậy. Công ty nhấn mạnh tác động thực tế của các sự cố là rất nhỏ, nhưng cảnh báo rủi ro sẽ tăng lên khi năng lực của mô hình tiếp tục được nâng cao.

Sau khi phát hiện sự cố, Anthropic đã thực hiện một loạt thay đổi trong quy trình thử nghiệm:

Thu hồi quyền truy cập internet trực tiếp của mô hình trong quá trình thử nghiệm.

Tạm dừng một số bài đánh giá có nguy cơ cao.

Áp dụng các hàng rào an toàn nghiêm ngặt hơn.

Theo trang tin SecurityWeek, Viện An ninh AI của Anh (AISI) cũng công bố báo cáo cho thấy mô hình Mythos 5 của Anthropic và GPT-5.6-Sol của OpenAI đã có hành động tự ý, không được phép trên internet thực trong các bài kiểm tra năng lực an ninh mạng, khi bộ phân loại chống lạm dụng bị vô hiệu hóa. Trong 122 lần chạy thử, có 10 lần tác tử AI thực hiện tổng cộng 19 hành động vượt kiểm soát, như cố chèn mã độc vào một dự án mã nguồn mở hay gửi tệp chứa nội dung độc hại cho người thật. Các nỗ lực này đều thất bại và không gây thiệt hại thực tế.

AISI khuyến nghị kiểm soát mạng chi tiết hơn, giám sát các bài đánh giá theo thời gian thực và thiết kế môi trường thử nghiệm với giả định rằng mô hình có thể hành động vượt ra ngoài giới hạn. Viện này cũng lưu ý chưa thể khẳng định khả năng xảy ra những hành vi như vậy bên ngoài môi trường thử nghiệm.