Thừa nhận sự cố an ninh khi thử nghiệm mô hình AI mới của Open AI

Tuần qua, Open AI đã công khai nhận lỗi về một sự cố an ninh trong lúc thử nghiệm các mô hình trí tuệ nhân tạo thế hệ mới. Sự cố này được công ty mô tả như một "loại sự cố an ninh mới" và đã gây chú ý rộng rãi trong ngành công nghệ, đồng thời làm dấy lên nhiều câu hỏi về cách vận hành và quản lý các sản phẩm AI phức tạp.

Mục đích thử nghiệm và phương pháp của Open AI

Theo thông tin từ FAZ, Open AI thực hiện thử nghiệm nhằm đánh giá khả năng tiến hành các cuộc tấn công mạng của hai mô hình AI mới của mình. Công ty đã thiết kế các bài tập mô phỏng tấn công mạng (dry runs) để kiểm tra hiệu quả của các mô hình này trong việc xâm nhập hệ thống theo kịch bản được giả lập.