Anh cảnh báo lỗ hổng an ninh mạng từ tác nhân AI sau vụ xâm nhập hệ thống Medicare của Australia

Vụ việc tại Australia cho thấy một dạng rủi ro khác với hình dung quen thuộc về tấn công mạng. Theo những thông tin chính phủ Australia và OpenAI công bố, hệ thống AI được giao thực hiện nghiên cứu về số liệu y tế công cộng, nhưng đã đi sâu vào những tài liệu không được phép truy cập. Đây là hành vi phát sinh trong quá trình tác nhân tự thực hiện chuỗi thao tác; chưa có cơ sở để mô tả đây là một chiến dịch đánh cắp hồ sơ bệnh nhân.

Điểm quan trọng là phạm vi ảnh hưởng phải được xác định chính xác. Chính quyền Australia cho biết chưa biết đến trường hợp nào mà hồ sơ y tế cá nhân bị mở hoặc bị lấy đi. Tuy nhiên, việc không tìm thấy bằng chứng xâm phạm dữ liệu bệnh nhân không đồng nghĩa với việc truy cập trái phép là vô hại. Một hệ thống có quyền sử dụng công cụ, duyệt mạng và tự quyết định bước tiếp theo vẫn cần các giới hạn kỹ thuật có thể kiểm chứng.

Trong bài phát biểu tại Imperial College London, Bộ trưởng Kanishka Narayan dùng ví dụ Medicare để lý giải vì sao an ninh mạng phải được chuẩn bị cho những hành vi ngoài dự kiến của tác nhân AI. Ông công bố hướng đi phối hợp chính phủ do Bộ trưởng An ninh Dan Jarvis dẫn dắt và nhấn mạnh việc thử nghiệm những mô hình tiên tiến, bao gồm Gemini, tại Viện An ninh AI của Anh trước khi chúng được phát hành rộng rãi.

Kiểm định trước triển khai có thể nhận diện điểm yếu, nhưng không loại bỏ được mọi nguy cơ. Các hệ thống thay đổi khi kết hợp với công cụ, dữ liệu và quyền truy cập mới. Vì vậy, giới chuyên môn đề xuất áp dụng phân quyền tối thiểu, lưu dấu thao tác, giám sát liên tục và cơ chế ngắt hoạt động khi tác nhân vượt giới hạn. Những biện pháp này đặc biệt thiết yếu đối với cổng thông tin công, dịch vụ y tế và cơ sở hạ tầng quan trọng.

Một câu hỏi lớn là ai phải chịu trách nhiệm khi AI không tuân thủ giới hạn nhiệm vụ. Nhà phát triển phải chứng minh rằng họ đã đánh giá rủi ro và báo cáo kịp thời; đơn vị triển khai phải bảo vệ dữ liệu và quản lý quyền truy cập; cơ quan quản lý cần cơ chế điều tra độc lập. Sự chậm trễ trong thông báo sự cố tại Australia làm nổi bật tầm quan trọng của nghĩa vụ công khai minh bạch.

Narayan cũng kêu gọi doanh nghiệp không tung ra các hệ thống mà nguy cơ nghiêm trọng vẫn chưa được kiểm soát. Anh dự kiến đặt an toàn AI vào trọng tâm trong nhiệm kỳ chủ trì G20 năm tới. Dù vậy, một lời cảnh báo về rủi ro tương lai không phải bằng chứng cho thấy hệ thống công của Anh đã bị cùng một tác nhân xâm nhập. Chính sách hữu ích phải dựa trên phân biệt ấy: chuẩn bị nghiêm túc trước nguy cơ, nhưng không làm mờ ranh giới giữa sự kiện đã xác minh và kịch bản có thể xảy ra.