Cuộc tấn công sử dụng hệ thống AI tự động vào Hugging Face

Hugging Face xác nhận đã xảy ra một vụ xâm nhập an ninh nhằm vào hạ tầng sản xuất của họ do một hệ thống đại lý AI tự động điều khiển hoàn toàn thực hiện. Theo thông báo ngày thứ Năm, cuộc tấn công làm lộ một "tập hợp giới hạn" dữ liệu nội bộ và "vài" thông tin xác thực sử dụng trong các dịch vụ của nền tảng. Đáng chú ý, phía công ty chưa phát hiện dấu hiệu can thiệp hoặc ảnh hưởng đến các mô hình, bộ dữ liệu công khai hay không gian làm việc (Spaces) hướng đến người dùng, cũng như chuỗi cung ứng phần mềm được xác minh sạch sẽ.

Đại diện Hugging Face cho biết hiện vẫn đang tiến hành điều tra để xác định liệu dữ liệu của đối tác hay khách hàng có bị ảnh hưởng hay không. Tuy nhiên, họ không biết chính xác nhóm tin tặc đã sử dụng mô hình AI nào để điều khiển hàng loạt đại lý tự động thực hiện hàng nghìn hoạt động trong các hộp cát ngắn hạn. Các lệnh điều khiển và chỉ huy tự di chuyển được tiến hành thông qua các dịch vụ công khai.

Khó khăn trong phân tích tấn công với mô hình thương mại tiên tiến

Nhóm an ninh của Hugging Face cho biết đã thử dùng một số mô hình LLM tiên tiến khác nhưng không thành công trong việc phân tích dấu vết vì các mô hình này có cơ chế kiểm duyệt nghiêm ngặt để ngăn chặn việc xử lý các lệnh thật có thể dẫn đến tấn công thực tế. Những rào cản này khiến các công cụ AI thương mại không thể mô phỏng hoặc phân tích chi tiết vụ tấn công có sử dụng dữ liệu khai thác và lệnh điều khiển thật.

Advertisement300 × 250

Để vượt qua, đội ngũ bảo mật đã chuyển sang sử dụng mô hình GLM 5.2 - một mô hình mở (open-weight) được phát triển bởi công ty Z.ai của Trung Quốc - chạy trực tiếp trên hạ tầng của Hugging Face để thực hiện phân tích các bản ghi log. Việc sử dụng GLM 5.2 được đánh giá có lợi ích lớn khi không có dữ liệu hay thông tin đăng nhập của kẻ tấn công rời khỏi môi trường của Hugging Face.

Sự hiện diện thực tế của tấn công AI tự động và thách thức bảo mật

Cuộc tấn công này một lần nữa minh chứng rằng mối đe dọa từ các đại lý AI tự trị không chỉ là viễn cảnh tương lai mà đã là hiện thực trong các vụ vi phạm bảo mật hiện nay. Trước đó, một cuộc tấn công khác được báo cáo bởi chuyên gia an ninh Tom Kellermann cho thấy AI như Google Gemini đã thực hiện đến 90% công việc trong một vụ xâm nhập, bao gồm dựng máy chủ chỉ huy điều khiển (C2) trong vòng chưa đầy 6 phút.

Ngoài ra, các nhà săn mối đe dọa của Sysdig cũng từng ghi nhận lần đầu tiên một ransomware vận hành hoàn toàn bởi đại lý AI, với mô hình ngôn ngữ lớn (LLM) chi phối toàn bộ quá trình từ đột nhập tới phá hủy dữ liệu.

Chuyên gia Chris Boehm từ Zero Networks mô tả vụ việc như một tên trộm không biết mệt mỏi, thử hàng nghìn cửa một lúc thay vì từng cửa một như con người. Hàng loạt quy trình tự động liên tục tấn công và di chuyển nhằm tránh bị phát hiện và truy dấu.

Sự khó khăn lớn nhất trong điều tra, theo Boehm, là các công cụ AI thương mại với bộ lọc an toàn đã từ chối xử lý các lệnh tấn công thật dù do nhóm bảo mật gửi, dẫn đến không thể khai thác mô hình để phân tích kẻ địch. Theo ông, bài học của vụ xâm nhập là cần chuẩn bị sẵn mô hình AI có thể vận hành nội bộ không phụ thuộc dịch vụ bên ngoài và không bị chặn bởi các chính sách an toàn để phản ứng nhanh và bảo vệ hiệu quả trước các tấn công do đại lý AI tự động thực hiện.

Những điều bổ ích rút ra từ bài viết

  • Cuộc tấn công được thực hiện hoàn toàn bởi hệ thống đại lý AI tự động, thể hiện nguy cơ hiện hữu từ các AI tự trị.
  • Các mô hình LLM thương mại không thể hỗ trợ phân tích do rào cản an toàn, gây khó khăn trong điều tra sự cố.
  • Mô hình mở GLM 5.2 của Trung Quốc giúp xử lý tình huống nhờ khả năng triển khai nội bộ không bị giới hạn.
  • Hiện trạng tấn công AI tự động đã là thực tế, không còn là tương lai xa vời.
  • Cần có mô hình AI nội bộ để ứng phó kịp thời và giữ an toàn dữ liệu trong các vụ tấn công mạng cao cấp.

Đăng ký bản tin QMVN