Tấn công mạng nhắm vào Hugging Face từ lỗ hổng trong tập dữ liệu

Hugging Face, nền tảng lưu trữ các mô hình và dữ liệu AI, vừa công bố thông tin về một cuộc tấn công mạng ảnh hưởng đến dữ liệu nội bộ và thông tin đăng nhập dịch vụ của công ty. Vụ việc được phát hiện vào tuần trước và công ty vẫn đang trong quá trình xác minh xem dữ liệu khách hàng hoặc đối tác có bị đánh cắp hay không.

Cụ thể, một tập dữ liệu được tải lên nền tảng của Hugging Face đã lợi dụng một lỗ hổng bảo mật để thực thi mã độc trên máy chủ của công ty. Qua đó, kẻ tấn công đã nâng quyền truy cập và mở rộng khả năng xâm nhập vào các hệ thống nội bộ.

Phản ứng của Hugging Face và khuyến nghị người dùng

Ngay sau khi phát hiện sự cố, Hugging Face đã thu hồi và đổi mới tất cả các thông tin đăng nhập bị xâm phạm. Công ty khuyến cáo người dùng cũng nên thay đổi các khóa bảo mật đã lưu trên nền tảng đồng thời kiểm tra các hoạt động khả nghi trong tài khoản của mình.

Đơn vị này cũng nhanh chóng vá lỗi bảo mật đang bị khai thác. Sự việc thể hiện những thách thức lớn trong việc bảo vệ an ninh nội bộ, nhất là khi các hacker ngày càng trở nên tinh vi trong việc lợi dụng nền tảng để truy cập và đánh cắp dữ liệu nhạy cảm.

Chi tiết về thủ phạm và cách phát hiện cuộc tấn công

Hugging Face cho biết cuộc tấn công này do một tác nhân AI bên ngoài thực hiện, với hàng ngàn hành động riêng lẻ được phối hợp qua nhiều môi trường sandbox ngắn hạn. Các chỉ huy lệnh tự di chuyển được thiết lập trên các dịch vụ công cộng.

Advertisement300 × 250

Công ty chưa đưa ra bằng chứng cụ thể cho tuyên bố trên khi được TechCrunch liên hệ. Họ sử dụng hệ thống phát hiện bất thường nội bộ để phát hiện cuộc tấn công và đã áp dụng mô hình AI riêng để phân tích các nhật ký máy chủ ghi lại sự việc.

Ban đầu, Hugging Face dùng một mô hình AI mới từ một nhà cung cấp thương mại mà họ không tiết lộ tên, song việc phân tích bị giới hạn bởi các quy tắc đoản tuyến của nhà cung cấp. Do đó, họ đã chuyển sang sử dụng mô hình lớn ngôn ngữ nội bộ, vừa phân tích hiệu quả vừa đảm bảo không cần gửi dữ liệu nhạy cảm lên phải máy chủ bên thứ ba.

Những khó khăn trong sử dụng mô hình AI trong an ninh mạng

Các chuyên gia bảo mật từng phản ánh nhiều mô hình AI tiên tiến như Anthropic Mythos và Fable đang bị kiểm soát chặt chẽ, giới hạn khả năng khảo sát các vấn đề liên quan đến an ninh mạng, thậm chí trong các hoạt động phòng thủ và điều tra.

Anthropic đối mặt với các lệnh kiểm soát xuất khẩu do chính quyền Mỹ áp đặt và từng phải rút Fable khỏi thị trường công cộng vì những lo ngại về an ninh mạng.

Điều tra và cải thiện an ninh sau sự cố

Hugging Face đã báo cáo sự việc tới cơ quan chức năng và hợp tác với các chuyên gia pháp y an ninh mạng để phân tích, đồng thời rà soát lại các biện pháp bảo mật của mình.

Hiện vẫn chưa rõ công ty có thực hiện kiểm tra bảo mật toàn diện trước khi ra mắt hệ thống không. Đại diện Hugging Face chưa phản hồi yêu cầu bình luận từ TechCrunch.

Vụ việc cho thấy tính phức tạp trong việc bảo vệ hệ thống AI và các nền tảng lớn trước các cuộc tấn công ngày càng tinh vi, đồng thời cảnh báo người dùng nên hết sức cẩn trọng và chủ động trong việc bảo mật thông tin cá nhân và truy cập.

Những điều bổ ích rút ra từ bài viết

  • Hugging Face xác nhận bị tấn công mạng ảnh hưởng đến dữ liệu nội bộ và thông tin đăng nhập dịch vụ.
  • Cuộc tấn công khai thác lỗ hổng trong tập dữ liệu để chạy mã độc, mở rộng quyền truy cập vào hệ thống.
  • Công ty đã thu hồi các thông tin đăng nhập bị đánh cắp và yêu cầu người dùng thay đổi khóa truy cập.
  • Cuộc tấn công được thực hiện bởi một tác nhân AI bên ngoài sử dụng nhiều sandbox ngắn hạn để chạy các lệnh tự di chuyển.
  • Hugging Face sử dụng mô hình AI nội bộ để phân tích nhật ký máy chủ, tránh rủi ro khi dùng dịch vụ AI bên thứ ba.

Đăng ký bản tin QMVN