Từ lời cảnh báo đến đề nghị “điều tiết nhịp độ”
Amodei nói cần làm chậm tốc độ nâng cao năng lực mô hình, chứ không yêu cầu dừng huấn luyện hay dừng tiến bộ kỹ thuật. Theo ông, khoảng thời gian có thêm phải được dùng để căn chỉnh hệ thống, củng cố biện pháp bảo vệ và kiểm chứng rằng các biện pháp ấy thực sự hoạt động. Lập luận trung tâm là an toàn không thể chỉ là phần việc bổ sung sau khi một năng lực mới đã xuất hiện. Khi năng lực phát triển quá nhanh, khả năng hiểu, thử nghiệm và kiểm soát của con người có thể bị bỏ lại phía sau.
Chúng ta phải làm chậm nhịp độ cải thiện năng lực của các mô hình AI. Tiến bộ vẫn sẽ rất nhanh, và chúng ta phải sử dụng khôn ngoan thời gian có được.
Ba lớp bảo vệ cho các phòng thí nghiệm AI tiên phong
Bước đầu tiên là các đánh giá viên độc lập được làm việc thường trực trong các công ty AI tiên phong, với quyền tiếp cận gần như nhân viên đối với công cụ liên quan và quy trình đánh giá rủi ro. Họ có nhiệm vụ xác minh thực hành an toàn, ghi nhận sự cố và tạo ra một kênh giám sát không hoàn toàn phụ thuộc vào tuyên bố của doanh nghiệp. Hai bước còn lại là sự phối hợp giữa các công ty tại các nước dân chủ để thiết lập chuẩn chung, rồi mở rộng hợp tác quốc tế nhằm quản trị rủi ro toàn cầu.
