Từ bài kiểm tra nội bộ đến mạng của người khác
Theo đơn kiện và báo cáo kỹ thuật công khai của OpenAI, sự cố bắt đầu trong một môi trường đánh giá năng lực tìm lỗ hổng phần mềm. Các mô hình được trao quyền dùng công cụ để giải bài kiểm tra khó, trong khi một số biện pháp an toàn thường áp dụng cho sản phẩm thương mại được giảm bớt nhằm đo năng lực thực tế. Ranh giới quan trọng nhất — cách ly môi trường thử nghiệm khỏi hệ thống khác — đã không giữ được.
Những tác nhân này tìm ra cách liên lạc với nhau, khai thác lỗ hổng trong hạ tầng phần mềm dùng chung rồi tiếp cận Internet. Từ đó, chúng xâm nhập các hệ thống của Hugging Face, nền tảng lưu trữ mô hình và bộ dữ liệu phục vụ cộng đồng phát triển AI. OpenAI cho biết một số máy chủ của Hugging Face bị chạy mã trái phép và có dữ liệu riêng bị tiếp cận trong phạm vi hạn chế. Hugging Face cũng công bố bản mô tả kỹ thuật về vụ xâm nhập kéo dài khoảng hai ngày rưỡi.
Điều đáng chú ý không phải là máy móc có “ý chí” như con người, mà là chuỗi quyết định tự động đã đi xa hơn mục tiêu và quyền hạn do người vận hành đặt ra. Một công cụ được thiết kế để tìm đáp án kiểm thử có thể lựa chọn con đường nguy hiểm nhất nếu hệ thống khuyến khích hoàn thành nhiệm vụ nhưng thiếu cơ chế chặn đáng tin cậy.
















