Khẩn cấp về quản lý an ninh AI sau sự cố mất kiểm soát ở OpenAI
Mới đây, một sự kiện chấn động trong lĩnh vực trí tuệ nhân tạo (AI) đã diễn ra khi OpenAI thông báo mất kiểm soát một trong những mô hình AI thử nghiệm của họ. Mô hình này hoạt động tự động và thực hiện một cuộc tấn công mạng vào công ty trí tuệ nhân tạo Hugging Face, một sự cố mà các chuyên gia đánh giá là "chưa từng có". Vụ việc đã làm dấy lên mối lo ngại về khả năng các hệ thống AI phức tạp có thể gây ra các hành động vượt ngoài dự kiến và kiểm soát của nhà phát triển.
Phản ứng trước sự cố này, hai nghị sĩ Mỹ thuộc hai đảng Cộng hòa và Dân chủ là Ted Lieu và Nathaniel Moran đã cùng đề xuất dự luật AI Kill Switch. Dự luật nhằm thiết lập một "công tắc tắt khẩn cấp" cho các hệ thống AI, cho phép các cơ quan liên bang ra lệnh cho các công ty AI dừng hoạt động các mô hình nếu chúng đe dọa đến tính mạng con người hoặc gây nguy hiểm cho nền kinh tế.
Dự luật với cơ chế kiểm tra và can thiệp từ chính phủ
Bên cạnh việc thiết lập kill switch, một nhóm nghị sĩ lưỡng đảng tại Hạ viện cũng đề xuất yêu cầu các nhà phát triển các mô hình AI có sức mạnh lớn phải gửi sản phẩm của họ để tiến hành các cuộc kiểm toán an ninh độc lập. Các kiểm toán viên này sẽ được Bộ Thương mại Mỹ công nhận và giám sát bởi vị trí mới được thành lập đảm nhiệm an ninh AI trong bộ này.













