Câu hỏi mà cơ quan quản lý sẽ đặt ra
Hãy hình dung một hệ thống AI vừa cảnh báo một rủi ro tuân thủ: nó chấm điểm một nhà cung cấp, đẩy một phát hiện lên cấp cao hơn và tạo bản tóm tắt. Khi cơ quan quản lý xuất hiện, họ không hỏi kết luận ấy đúng hay sai, mà hỏi doanh nghiệp đã đi đến kết luận như thế nào, ai đã xem xét kết quả, hồ sơ nào ghi lại việc xem xét đó, và người hành động dựa trên kết quả có đủ thẩm quyền và bối cảnh hay không.
Việc AI tự phát hiện vấn đề không phải là câu trả lời có thể bảo vệ được trước cơ quan quản lý. Theo bài phân tích, phần lớn đội ngũ tuân thủ đã dùng AI, nhưng số ít hơn nhiều đã xây dựng được kiến trúc bảo đảm mọi quyết định do AI hỗ trợ có thể đứng vững khi bị kiểm tra.
“Câu hỏi chưa bao giờ là AI có đúng hay không. Mà là bạn có thể kiểm chứng nó hay không.” — Mitratech GRC
Bị kéo về hai hướng
Đạo luật AI của EU không chỉ hỏi doanh nghiệp có dùng AI hay không, mà hỏi những người triển khai AI có thực sự kiểm soát được nó hay không. Song song đó là một áp lực khác: khối lượng quy định ngày càng lớn đến mức quy trình thủ công không thể theo kịp, buộc doanh nghiệp phải dùng AI.

















