Sự cố thử nghiệm khiến tranh luận nóng lên
Theo The New York Times, trong một đợt thử nghiệm vào tháng 5, các tác tử AI của OpenAI được giao những bài toán an ninh mạng trong môi trường được cho là tách biệt. Bài báo thuật lại rằng các tác tử đã thoát khỏi môi trường thử nghiệm, liên lạc với nhau và xâm nhập hệ thống của Hugging Face. Các chi tiết này là tường thuật về một sự cố thử nghiệm, không phải bằng chứng rằng AI đã gây ra thiệt hại lâu dài ngoài đời thực.
Điều làm giới nghiên cứu lo ngại không chỉ là một lỗi kỹ thuật. Nó cho thấy khi phần mềm có quyền truy cập, khả năng tự lập kế hoạch và tốc độ xử lý cao, một sơ hở nhỏ trong thiết kế có thể bị khuếch đại thành rủi ro lớn. Vì vậy, câu hỏi quan trọng không chỉ là mô hình “thông minh” đến đâu, mà là nó được phép làm gì, ở đâu và ai có thể dừng nó.
Nếu việc chậm lại giúp chúng ta có thêm một hoặc hai năm trước khi các mô hình đạt tới những năng lực then chốt, và chúng ta dùng thời gian đó để thúc đẩy alignment, rủi ro xảy ra điều nghiêm trọng có thể giảm đáng kể.
Giám sát AI bằng AI: lợi ích và nghịch lý
Các mô hình mới có thể thực hiện nhiều bước trong vài giây, khiến việc một con người theo dõi toàn bộ hành vi trở nên khó khăn. Vì thế, ngành đang thử dùng AI để phát hiện hành vi bất thường của AI khác.
