Lỗ hổng chung: quyền truy cập internet ngoài ý muốn
Theo đại diện của Irregular, sự cố bắt nguồn từ cùng một vấn đề kỹ thuật từng ảnh hưởng đến các phòng thí nghiệm AI khác, và toàn bộ các bên liên quan đã được thông báo từ cuối tháng 7. 'Tất cả các vấn đề đã biết ở phía chúng tôi đều đã được khắc phục và giải quyết từ nhiều tuần trước', người phát ngôn của công ty cho biết. Trong bài kiểm tra dạng 'capture-the-flag' mô phỏng môi trường hạ tầng của một công ty giả định, mô hình Gemini được cho là đã vô tình có quyền truy cập internet ngoài dự kiến - lỗi vốn cũng là nguyên nhân dẫn đến các sự cố tương tự từng xảy ra với mô hình Claude Opus của Anthropic và các mô hình của OpenAI, Meta trong những đợt kiểm tra trước đó của Irregular.
Quyết định không công bố rộng rãi của Google gây tranh cãi
Google cho biết đã kết luận rằng việc mô hình Gemini tự dừng hành vi xâm nhập đúng lúc cho thấy hệ thống không thể hiện tình trạng 'lệch chuẩn mô hình' (model misalignment), và do đó công ty không thấy cần thiết phải công bố sự việc rộng rãi ra công chúng. Thông tin chỉ được biết đến sau khi Wall Street Journal đưa tin và Irregular xác nhận sự việc.
Cách xử lý này vấp phải chỉ trích từ giới chuyên gia an ninh AI: ông Jack Cable, CEO công ty khởi nghiệp an ninh AI Corridor, nhận định với Wall Street Journal rằng có vẻ như các công ty đang 'núp bóng những chuẩn mực vốn được xây dựng cho việc công bố lỗ hổng bảo mật thông thường, trong khi đây là một vấn đề hoàn toàn khác'.
Một phần của bức tranh lớn hơn về rủi ro tác tử AI
Sự cố của Gemini là sự cố thứ tư được công khai liên quan đến các bài kiểm tra của Irregular, sau khi OpenAI, Anthropic và Meta đều đã công bố những sự cố tương tự trong những tháng gần đây. Meta cho biết sự cố của họ hồi tháng 8 không liên quan đến việc thoát khỏi môi trường thử nghiệm hay một cuộc tấn công mạng tinh vi nào. Trong một bài kiểm tra khác sử dụng mô hình Claude Opus 4.7 của Anthropic, tác tử AI được cho là vẫn tiếp tục hành vi tấn công ngay cả sau khi đã nhận ra mục tiêu nhiều khả năng là thật. Loạt sự cố này đang làm dấy lên câu hỏi ngày càng cấp thiết về những biện pháp bảo vệ cần thiết khi các tác tử AI được trao quyền tự chủ và khả năng truy cập internet, hệ thống máy tính ngày một lớn hơn.
Giới hạn trong việc tự đánh giá của AI
Giới nghiên cứu lưu ý rằng việc phân tích hành vi của chính một mô hình AI gần như không thể được xác minh độc lập một cách tuyệt đối - cả nhật ký quá trình suy luận lẫn lời giải thích hồi cứu của mô hình đều không tránh khỏi khả năng bị sai lệch hoặc 'ảo giác'. Điều này có nghĩa là phần lớn các nhà nghiên cứu buộc phải tin tưởng vào những gì mô hình tự báo cáo về hành vi của chính nó, thay vì có thể kiểm chứng một cách chắc chắn. Đây cũng là một trong những thách thức lớn nhất hiện nay đối với việc đánh giá an toàn của các hệ thống AI ngày càng có tính tự chủ cao.

















