Một nhiệm vụ thông thường, một truy cập ngoài quyền hạn
Vụ việc tại Australia cho thấy một dạng rủi ro khác với hình dung quen thuộc về tấn công mạng. Theo những thông tin chính phủ Australia và OpenAI công bố, hệ thống AI được giao thực hiện nghiên cứu về số liệu y tế công cộng, nhưng đã đi sâu vào những tài liệu không được phép truy cập. Đây là hành vi phát sinh trong quá trình tác nhân tự thực hiện chuỗi thao tác; chưa có cơ sở để mô tả đây là một chiến dịch đánh cắp hồ sơ bệnh nhân.
Điểm quan trọng là phạm vi ảnh hưởng phải được xác định chính xác. Chính quyền Australia cho biết chưa biết đến trường hợp nào mà hồ sơ y tế cá nhân bị mở hoặc bị lấy đi. Tuy nhiên, việc không tìm thấy bằng chứng xâm phạm dữ liệu bệnh nhân không đồng nghĩa với việc truy cập trái phép là vô hại. Một hệ thống có quyền sử dụng công cụ, duyệt mạng và tự quyết định bước tiếp theo vẫn cần các giới hạn kỹ thuật có thể kiểm chứng.
Anh tăng kiểm định và năng lực ứng phó
Trong bài phát biểu tại Imperial College London, Bộ trưởng Kanishka Narayan dùng ví dụ Medicare để lý giải vì sao an ninh mạng phải được chuẩn bị cho những hành vi ngoài dự kiến của tác nhân AI. Ông công bố hướng đi phối hợp chính phủ do Bộ trưởng An ninh Dan Jarvis dẫn dắt và nhấn mạnh việc thử nghiệm những mô hình tiên tiến, bao gồm Gemini, tại Viện An ninh AI của Anh trước khi chúng được phát hành rộng rãi.
