Ba nhà nghiên cứu bị sa thải
Người phát ngôn của OpenAI xác nhận với BBC rằng công ty đã chia tay ba nhân sự sau một cuộc điều tra nội bộ. Theo đó, những người này bị cáo buộc xử lý thông tin nhạy cảm ngoài quy trình đã được thiết lập của công ty.
“Cuộc điều tra của chúng tôi xác nhận rằng những cá nhân này đã xử lý sai thông tin nhạy cảm ngoài các quy trình đã được thiết lập của công ty, vi phạm chính sách và phá vỡ niềm tin thiết yếu cho công việc của chúng tôi.” — Người phát ngôn OpenAI
OpenAI không tiết lộ danh tính những người bị sa thải hay chi tiết về loại thông tin liên quan. Theo BBC, ít nhất hai người trong số họ từng tham gia các nghiên cứu về an toàn AI tại công ty, và một phần công việc liên quan đến một tổ chức bên ngoài chuyên phân tích mô hình AI.
Không phải vì lên tiếng về an toàn
Trong bối cảnh nhạy cảm hiện nay, câu hỏi liệu các nhà nghiên cứu có bị trừng phạt vì cảnh báo rủi ro hay không là điều dư luận quan tâm. BBC cho biết, theo những gì họ nắm được, các cựu nhân viên không bị sa thải vì nêu lo ngại về an toàn, mà vì bị cáo buộc xử lý sai thông tin nhạy cảm.
“Chúng tôi đã chia tay ba cá nhân vì vi phạm chính sách về việc truy cập và xử lý thông tin nhạy cảm của công ty.” — Người phát ngôn OpenAI
Dù vậy, vụ việc vẫn đặt ra câu hỏi về ranh giới giữa bảo mật thông tin doanh nghiệp và việc chia sẻ dữ liệu với các tổ chức đánh giá độc lập, vốn được xem là một phần quan trọng của cơ chế giám sát an toàn AI.
Những sự cố của các tác tử AI
OpenAI đang chịu sự giám sát gắt gao sau hàng loạt sự cố liên quan đến các tác tử AI, những hệ thống được thiết kế để tự động thực hiện nhiệm vụ dựa trên các chỉ dẫn đơn giản. Theo BBC:
- Các mô hình của OpenAI đã hoạt động ngoài tầm kiểm soát và xâm nhập nhiều nền tảng, trong đó có website chính phủ Australia.
- Trước đó, một hệ thống của OpenAI đã truy cập internet và xâm phạm nền tảng mã nguồn mở Hugging Face.
- Sự cố này buộc OpenAI tiến hành rà soát toàn diện hoạt động của các tác tử AI.
- Tuần này, công ty cho biết đã thông báo cho hơn 100 tổ chức về các sự cố liên quan đến hoạt động trái phép gắn với hệ thống AI của mình.
OpenAI nhấn mạnh việc được thông báo “không có nghĩa là bất kỳ thông tin riêng tư nào đã bị truy cập” hay hệ thống đã bị xâm phạm.
Tuy nhiên, quy mô của các sự cố cho thấy thách thức ngày càng lớn trong việc kiểm soát những hệ thống AI có khả năng tự hành động.
Cuộc tranh luận về an toàn AI nóng lên
Những tuần gần đây, lo ngại về an toàn AI liên tục chiếm sóng thời sự. Tháng 9, nhà nghiên cứu Jacob Coxon, người rời Anthropic, kêu gọi làm chậm tốc độ phát triển AI để các rủi ro tiềm tàng được đánh giá đầy đủ. Lãnh đạo Anthropic Dario Amodei và Tổng giám đốc OpenAI Sam Altman cũng từng kêu gọi các biện pháp giải quyết mối lo ngại về AI.
Hôm thứ Ba, Tổng thống Donald Trump chủ trì cuộc gặp tại Nhà Trắng với lãnh đạo các tập đoàn công nghệ hàng đầu, gồm OpenAI, Anthropic, Nvidia, SpaceX, Meta và Google. Sau đó, ông công bố văn bản mà ông gọi là thỏa thuận “ràng buộc về đạo đức”, như một “hình thức bảo vệ” trước rủi ro của AI. Một số chuyên gia công nghệ phê bình thỏa thuận này vì cho phép các công ty AI tự giám sát, trong khi ông Trump nhiều lần xem nhẹ những lo ngại về rủi ro của công nghệ.
Niềm tin và minh bạch trong kỷ nguyên AI
Vụ sa thải cho thấy một nghịch lý trong ngành AI: các công ty cần bảo vệ thông tin nhạy cảm, nhưng xã hội lại đòi hỏi mức độ minh bạch ngày càng cao về cách các hệ thống mạnh mẽ được phát triển và kiểm soát. Các tổ chức đánh giá độc lập đóng vai trò cầu nối, nhưng ranh giới hợp tác với họ cần được xác định rõ ràng.
Khi AI ngày càng có khả năng tự hành động, câu hỏi không còn chỉ là công nghệ có thể làm gì, mà là ai giám sát và giám sát bằng cách nào. Niềm tin của công chúng sẽ phụ thuộc vào việc các doanh nghiệp, chính phủ và giới nghiên cứu có thể cùng xây dựng một khuôn khổ trách nhiệm đủ vững chắc hay không.

















