Điều chỉnh tốc độ trên con đường cao tốc AI
Trả lời CNBC, ông Amodei ví tốc độ phát triển AI hiện nay, phần lớn nhờ các mô hình tiên tiến giúp xây dựng phiên bản kế tiếp, giống như việc một tài xế quen chạy 60 dặm/giờ bỗng có thể chạy 200 dặm/giờ. Theo ông, công ty đang cố gắng phát triển công nghệ một cách an toàn.
Về nhịp độ, về cơ bản chúng tôi nói: chúng ta có thể chạy 200 dặm một giờ, nhưng có lẽ chỉ nên chạy 90 dặm, dành thời gian tìm cách làm điều đó an toàn. Phần dư còn lại, chúng tôi dùng để xây dựng mô hình theo cách đúng đắn.
Tại lễ đánh chuông khai mạc phiên giao dịch Nasdaq, ông Amodei nói công việc an toàn khó khăn nhất vẫn còn ở phía trước, và khẳng định công ty sẽ điều chỉnh nhịp độ huấn luyện, triển khai AI, dành bao nhiêu thời gian cần thiết để tin chắc hệ thống an toàn và nằm dưới sự kiểm soát của con người.
Những hồi chuông cảnh báo từ bên trong
Bảy nhà sáng lập, gồm ông Amodei, 43 tuổi, em gái ông là Chủ tịch Daniela Amodei, 39 tuổi, cùng năm cựu nhân viên OpenAI khác, rời công ty đối thủ để xây dựng một tổ chức ưu tiên an toàn rõ ràng hơn. Tuy nhiên, những tháng gần đây đã xuất hiện các tín hiệu đáng lo ngại:















