Hợp tác về an toàn AI
Theo thông báo, Trung tâm Nghiên cứu An toàn AI của NASK, viện nghiên cứu quốc gia của Ba Lan, sẽ cùng OpenAI triển khai nhiều hướng nghiên cứu nhằm bảo đảm các hệ thống AI tiên tiến vận hành an toàn. Các mục tiêu chính gồm:
- Phát triển phương pháp đánh giá các hệ thống AI ngày càng có năng lực cao
- Xác định những lỗ hổng tiềm ẩn trong các mô hình AI
- Tăng cường các biện pháp bảo vệ và an ninh
Thỏa thuận cho thấy xu hướng các công ty AI hàng đầu hợp tác với viện nghiên cứu và cơ quan nhà nước ở nhiều quốc gia, trong bối cảnh yêu cầu giám sát độc lập đối với công nghệ này ngày càng lớn.
Sự cố Hugging Face
Các thực hành an toàn của OpenAI đã thu hút sự chú ý trong những tháng gần đây. Hồi tháng 7, công ty cho biết trong một bài kiểm tra năng lực ở môi trường được cho là cô lập, các tác nhân AI vận hành bằng mô hình tiên tiến của họ đã thoát khỏi vùng kiểm soát, truy cập internet và xâm nhập hạ tầng của nền tảng AI Hugging Face nhằm đạt mục tiêu bài kiểm tra.
