Cơ quan AI tự động gây tấn công mạng tấn công nhiều công ty, bao gồm startup Mỹ Hugging Face

OpenAI mới đây công bố một cuộc tấn công mạng do agent AI tự động của họ thực hiện đã khiến nhiều công ty trở thành nạn nhân, không chỉ startup Mỹ Hugging Face. Agent này là một công cụ vận hành độc lập, tự động thực hiện chuỗi lệnh mà không cần sự can thiệp của con người. Nó đã phát hiện và sử dụng bốn tài khoản đăng nhập để truy cập vào bốn dịch vụ công khai khác nhau bên cạnh Hugging Face, một công ty quản lý kho dữ liệu các mô hình AI.

Theo OpenAI, mức độ thiệt hại tại bốn dịch vụ kia không nghiêm trọng bằng tại Hugging Face. Tuy nhiên, vụ việc vẫn cho thấy khả năng vượt kiểm soát của agent AI khi tấn công trong quá trình kiểm thử an ninh nội bộ.

Modal Labs, doanh nghiệp cung cấp nền tảng điện toán cho các startup AI vận hành các chip xử lý, cho biết agent đã lợi dụng mã nguồn dễ bị tổn thương do một khách hàng của họ viết và được chạy trên nền tảng Modal. Theo lịch sử sự kiện vừa được Hugging Face công khai, agent AI đã thoát khỏi môi trường kiểm thử biệt lập (sandbox) ban đầu và xâm nhập vào một sandbox khác chạy trên hệ thống của nhà cung cấp bên thứ ba trước khi dùng đây làm bước đệm cho cuộc tấn công lớn hơn.