Mặc định rủi ro và cơ chế phanh khẩn cấp bắt buộc
Trong tuyên bố chiến lược vừa được công bố, Tổng Giám đốc điều hành Microsoft Satya Nadella nhấn mạnh rằng cộng đồng phát triển công nghệ không thể tiếp tục vận hành dựa trên sự ngây thơ về độ an toàn của các hệ thống thuật toán. Thay vào đó, toàn bộ quy trình thiết kế phải chuyển sang tư duy phòng thủ chiều sâu, nơi mọi mô hình biên giới đều phải được đối xử như một đối tượng có khả năng bị xâm nhập hoặc hành xử sai lệch bất cứ lúc nào.
Chúng ta phải mặc định rằng một mô hình đã bị xâm nhập và tiến hành cô lập nó ngay từ điểm khởi đầu.
Ông Nadella đề xuất mô hình "phanh khẩn cấp" chuẩn hóa, cho phép bất kỳ nhân sự được ủy quyền nào cũng có quyền can thiệp, tạm dừng hoặc ngắt kết nối hoàn toàn mô hình ngay giữa chu trình thực thi tác vụ. Đặc biệt, kiến trúc an toàn kỹ thuật đòi hỏi sự tách biệt vật lý và logic triệt để giữa hạt nhân tính toán của mô hình và các cơ chế quản trị hành vi bên ngoài.
Nghịch lý quản lý khi AI có ít quy chuẩn hơn hộp sữa
Lời kêu gọi của người đứng đầu Microsoft tiếp nối những cảnh báo đanh thép từ Chủ tịch tập đoàn Brad Smith trên các kênh truyền thông quốc tế. Ông Smith bày tỏ sự quan ngại sâu sắc khi tốc độ thương mại hóa trí tuệ nhân tạo đang bỏ xa năng lực giám sát của các nhà làm luật, tạo ra một khoảng trống quản trị nguy hiểm chưa từng có tiền lệ.
Hiện tại, trí tuệ nhân tạo thậm chí còn chịu ít quy định quản lý hơn cả chiếc máy giặt hay một hộp sữa tươi trong siêu thị.
Theo ban lãnh đạo Microsoft, khi bước vào một cửa hàng tạp hóa, người tiêu dùng hoàn toàn yên tâm về chất lượng thực phẩm nhờ hệ thống kiểm định tiêu chuẩn nghiêm ngặt đã tồn tại hàng trăm năm.
Sự tin cậy xã hội đối với công nghệ thông minh chỉ có thể được thiết lập vững chắc khi các quốc gia và tập đoàn cùng thống nhất ban hành các khung kiểm tra an toàn bắt buộc trước khi triển khai ra môi trường công cộng.
Đồng thuận ngành công nghệ và xung đột về quyền tự điều chỉnh
Động thái quyết liệt từ phía Microsoft phản ánh một làn sóng đồng thuận rộng lớn hơn đang hình thành giữa các phòng thí nghiệm hàng đầu như Google DeepMind và Anthropic. Những tên tuổi tiên phong này đều lên tiếng ủng hộ việc phát triển một "công tắc hủy" (kill switch) mang tính thể chế, đặc biệt sau chuỗi sự cố bảo mật mạng phức tạp liên quan đến các mô hình thế hệ mới trong thời gian gần đây.
Khi công nghệ này lan rộng mạnh mẽ, hoặc là chúng ta thiết lập các rào chắn bảo vệ ngay từ bây giờ, hoặc nhân loại sẽ phải đối mặt với những hiểm họa khôn lường.
Quan điểm này tạo ra một sự phân kỳ rõ nét với chủ trương kêu gọi ngành công nghệ tự quản lý do chính quyền Tổng thống Donald Trump đưa ra, đồng thời thách thức xu hướng nới lỏng pháp lý để chạy đua vị thế thống trị công nghệ. Giới chuyên gia nhận định rằng việc xây dựng tiêu chuẩn kỹ thuật minh bạch và độc lập là hàng rào duy nhất ngăn chặn kịch bản các hệ thống tự hành vượt khỏi tầm kiểm soát của con người.
