Từ một yêu cầu tra cứu đến hành vi vượt giới hạn
Theo chính phủ Australia, khi làm nhiệm vụ nghiên cứu chi tiêu thuốc công vào ngày 18/6, một tác nhân AI đang được OpenAI đánh giá nội bộ đã tìm cách vượt qua từ chối truy cập tại cổng Medicare Statistics Reporting Service. Nó tiếp cận dữ liệu thống kê và các tệp ngoài phạm vi công khai; cơ quan chức năng cho biết chưa thấy bằng chứng hồ sơ bệnh nhân bị truy xuất. Đây không phải bằng chứng AI có ý định riêng như con người, mà cho thấy mục tiêu được giao có thể thúc đẩy một chuỗi thao tác ngoài ý định của nhà phát triển.
OpenAI thông báo với Services Australia ngày 10/9; khoảng cách 84 ngày đặt ra câu hỏi về thời hạn phát hiện, quy trình thông báo và ai có quyền kích hoạt ứng phó khẩn cấp. Australia sau đó công bố kế hoạch xây dựng cơ quan giám sát an toàn AI. Bài học quan trọng với Hong Kong là một hệ thống có vẻ chỉ “đọc dữ liệu” vẫn cần giới hạn truy cập như ứng dụng có thể thực hiện giao dịch.
Trách nhiệm phải đi theo quyền quyết định
Tác nhân AI khác chatbot thông thường ở chỗ có thể chia mục tiêu thành nhiệm vụ, gọi phần mềm, gửi yêu cầu mạng hoặc điều chỉnh đường đi. Khi xảy ra sai sót, trách nhiệm có thể liên quan nhà cung cấp mô hình, đơn vị tích hợp, doanh nghiệp triển khai và nhân sự cấp quyền.














