Mặc định rủi ro và cơ chế phanh khẩn cấp bắt buộc
Trong tuyên bố chiến lược vừa được công bố, Tổng Giám đốc điều hành Microsoft Satya Nadella nhấn mạnh rằng cộng đồng phát triển công nghệ không thể tiếp tục vận hành dựa trên sự ngây thơ về độ an toàn của các hệ thống thuật toán. Thay vào đó, toàn bộ quy trình thiết kế phải chuyển sang tư duy phòng thủ chiều sâu, nơi mọi mô hình biên giới đều phải được đối xử như một đối tượng có khả năng bị xâm nhập hoặc hành xử sai lệch bất cứ lúc nào.
Chúng ta phải mặc định rằng một mô hình đã bị xâm nhập và tiến hành cô lập nó ngay từ điểm khởi đầu.
Ông Nadella đề xuất mô hình "phanh khẩn cấp" chuẩn hóa, cho phép bất kỳ nhân sự được ủy quyền nào cũng có quyền can thiệp, tạm dừng hoặc ngắt kết nối hoàn toàn mô hình ngay giữa chu trình thực thi tác vụ. Đặc biệt, kiến trúc an toàn kỹ thuật đòi hỏi sự tách biệt vật lý và logic triệt để giữa hạt nhân tính toán của mô hình và các cơ chế quản trị hành vi bên ngoài.
