Một chiếc phanh cho siêu trí tuệ

Theo ông Nadella, vì các mô hình AI hoạt động theo cách không hoàn toàn dự đoán được, chúng cần được bao bọc bởi những hệ thống chặt chẽ và có thể kiểm soát. Ông viết trên X:

*“Chúng ta cần bao quanh các mô hình phi tất định bằng thiết kế hệ thống tất định vững chắc, sự kiểm soát của con người và quy trình vận hành đáng tin cậy, đồng thời thiết lập các tiêu chuẩn ngành ở những nơi tiêu chuẩn hiện có chưa đủ.” — Satya Nadella*

Advertisement300 × 250

Ông đề xuất đối xử với các mô hình tiên tiến, dù là mô hình đóng hay mô hình có trọng số mở, như những “rủi ro nội gián”, tức là luôn giám sát chúng như một người bên trong tổ chức có thể gây hại. Trọng tâm là chiếc “phanh khẩn cấp”: người có thẩm quyền phải có khả năng tạm dừng hoặc tắt mô hình ngay cả khi nó đang thực hiện một nhiệm vụ.