Điều chỉnh tốc độ trên con đường cao tốc AI
Trả lời CNBC, ông Amodei ví tốc độ phát triển AI hiện nay, phần lớn nhờ các mô hình tiên tiến giúp xây dựng phiên bản kế tiếp, giống như việc một tài xế quen chạy 60 dặm/giờ bỗng có thể chạy 200 dặm/giờ. Theo ông, công ty đang cố gắng phát triển công nghệ một cách an toàn.
Về nhịp độ, về cơ bản chúng tôi nói: chúng ta có thể chạy 200 dặm một giờ, nhưng có lẽ chỉ nên chạy 90 dặm, dành thời gian tìm cách làm điều đó an toàn. Phần dư còn lại, chúng tôi dùng để xây dựng mô hình theo cách đúng đắn.
Tại lễ đánh chuông khai mạc phiên giao dịch Nasdaq, ông Amodei nói công việc an toàn khó khăn nhất vẫn còn ở phía trước, và khẳng định công ty sẽ điều chỉnh nhịp độ huấn luyện, triển khai AI, dành bao nhiêu thời gian cần thiết để tin chắc hệ thống an toàn và nằm dưới sự kiểm soát của con người.
Những hồi chuông cảnh báo từ bên trong
Bảy nhà sáng lập, gồm ông Amodei, 43 tuổi, em gái ông là Chủ tịch Daniela Amodei, 39 tuổi, cùng năm cựu nhân viên OpenAI khác, rời công ty đối thủ để xây dựng một tổ chức ưu tiên an toàn rõ ràng hơn. Tuy nhiên, những tháng gần đây đã xuất hiện các tín hiệu đáng lo ngại:
- Tháng 9, nhà nghiên cứu Jacob Coxon từ chức, chỉ trích cách thực hành an toàn của cả Anthropic và OpenAI, cảnh báo một số người trong ngành tin AI có thể đe dọa sự sống con người trước cuối thập niên.
- Ông Amodei đáp lại bằng một bài luận kêu gọi toàn ngành giảm tốc, đề xuất phối hợp giữa các công ty, quốc gia và đưa đánh giá viên độc lập vào các phòng thí nghiệm.
- Báo cáo của tổ chức phi lợi nhuận Model Evaluation and Threat Research cho thấy Anthropic đang phát triển hệ thống nhanh gấp khoảng hai lần so với một năm trước, phần lớn nhờ sự trợ giúp của chính AI.
Đang đánh cược bằng mạng sống của chúng ta.
Cam kết vì lợi ích chung và khối tài sản khổng lồ
Anthropic là công ty vì lợi ích công cộng, có nghĩa vụ pháp lý cân bằng lợi ích cổ đông với lợi ích xã hội, một mô hình hiếm khi niêm yết và chưa từng có quy mô lớn như vậy. Theo Forbes, tài sản của mỗi anh em nhà Amodei đã tăng từ hơn 14 tỷ USD trước IPO lên khoảng 22,7 tỷ và 22,8 tỷ USD vào chiều 19/11.
Các nhà sáng lập cam kết tự nguyện dành 80% cổ phần cho từ thiện, công ty có chương trình đối ứng quyên góp cổ phần cho nhân viên và cam kết ít nhất 5% cổ phiếu cho một quỹ “lợi ích công cộng”.
Chúng tôi thực sự đang cố gắng làm điều có thể tạo ra giá trị và tác động kinh tế to lớn, nhưng muốn điều đó được gắn chặt vào cấu trúc của mình, rằng chúng tôi cũng phải cân bằng với việc xây dựng những thứ tốt cho con người.
Minh bạch hay chiến lược định vị?
Trong hồ sơ gửi Ủy ban Chứng khoán và Giao dịch Mỹ (SEC), Anthropic dành tới 93 trang cho các yếu tố rủi ro, trong đó có khả năng AI tiên tiến gây ra “rủi ro thảm khốc hoặc mang tính sống còn với nhân loại”. Một số người coi đây là biểu hiện của sự minh bạch; giới phê bình lại đặt câu hỏi liệu việc nhấn mạnh những viễn cảnh u ám có phải là cách công ty định vị mình như lời giải hợp lý nhất. Nghịch lý này thậm chí trở thành đề tài châm biếm trên chương trình hài “Saturday Night Live”, và một khẩu hiệu từ tiểu phẩm xuất hiện trên tấm biển của người biểu tình trước trụ sở Anthropic tại San Francisco đúng ngày niêm yết.















