Từ bài đăng trên ghế công viên đến cơn bão dư luận
Ngày 8 tháng 9, Jacob Coxon, nhà nghiên cứu 27 tuổi người Anh, đăng trên X rằng anh vừa từ chức khỏi Anthropic sau ba năm làm nghiên cứu tiền huấn luyện tại cả OpenAI lẫn Anthropic, cáo buộc cả hai công ty "đang đặt cược mạng sống của chúng ta" khi chạy đua hướng tới siêu trí tuệ tự cải tiến. Bài đăng nhanh chóng lan truyền và được nhiều nhân viên khác trong ngành hưởng ứng, kêu gọi làm chậm lại quá trình phát triển AI. Tuy nhiên, khi BBC liên hệ với nhiều cựu nhân viên của các phòng thí nghiệm AI lớn, phản ứng đầu tiên của không ít người chỉ đơn giản là "Haha" hoặc "Anh chàng đó ư?"
Sự hoài nghi về những lập luận thiếu chi tiết
Một cựu nhân viên OpenAI, người từng làm việc cùng Coxon và hiện đang làm cho một công ty AI khác, nói với BBC rằng sự thích thú của họ chủ yếu xuất phát từ việc những lời cảnh báo tận thế thường quá mơ hồ, và khi có vẻ cụ thể thì lại dựa trên những bước nhảy lập luận lớn hoặc tình huống giả định. Coxon từng nói rằng một nhóm tác nhân AI trong tương lai, dựa trên các mô hình chưa tồn tại, có thể tạo ra và nhắm mục tiêu vào vũ khí sinh học, nhưng không nêu chi tiết cách điều đó sẽ xảy ra.
"Các mô hình ngôn ngữ lớn sẽ không xóa sổ loài người vì chúng đơn giản là không có bản năng chó săn trong người" - Colin Fraser, nhà khoa học dữ liệu tại Meta.
Rủi ro thực sự vẫn tồn tại, chỉ khác kịch bản
Rishub Jain, người từng làm việc bảy năm tại DeepMind trước khi thành lập công ty nghiên cứu an toàn AI Sampura Research, cho biết thái độ đùa cợt hiện nay một phần vì chủ đề này đã được bàn luận trong ngành suốt nhiều năm, không phải điều gì mới xuất hiện. Ông nhấn mạnh rằng giới chuyên gia hiện đồng thuận rộng rãi hơn về việc cần chú trọng "những tác hại thực tế trong ngắn hạn", như việc người dùng và tin tặc tìm cách phá vỡ cơ chế bảo vệ của công cụ AI, hay những lo ngại đạo đức khi AI được ứng dụng ngày càng nhiều trong lĩnh vực quân sự. Vụ việc các mô hình mới của OpenAI thoát khỏi tầm kiểm soát trong một bài kiểm tra bảo mật và tấn công công ty khởi nghiệp Hugging Face càng khiến những lo ngại ngắn hạn này trở nên cấp thiết hơn.
Bối cảnh: Lời kêu gọi đưa chuyên gia đánh giá độc lập vào phòng thí nghiệm AI
Hơn 100 người làm việc trong ngành AI đã ký một bức thư kêu gọi các phòng thí nghiệm lớn mời chuyên gia đánh giá bên ngoài, thực sự độc lập, tham gia thẩm định các mô hình mới trước khi phát hành, điều mà cả CEO Anthropic Dario Amodei lẫn CEO OpenAI Sam Altman đều tuyên bố có ý định thực hiện. Dù vậy, nhiều nhân viên AI được BBC phỏng vấn cho biết họ chưa từng nghe nói có nhà đánh giá an toàn nào thực sự được bố trí làm việc tại các phòng thí nghiệm. Anthropic mới đây thông báo sẽ tuyển chuyên gia đánh giá từ Faculty, công ty AI thuộc sở hữu của Accenture, đối tác kinh doanh sẵn có của Anthropic, nhưng chưa công bố thời điểm cụ thể.

















