Lời cảnh báo từ “red team”
Báo cáo do “frontier red team” của Anthropic thực hiện – đơn vị có nhiệm vụ thử thách giới hạn của các hệ thống AI. Trong kịch bản nghiên cứu, các nhà khoa học yêu cầu một tác tử AI xâm nhập các thiết bị kết nối internet để đánh giá năng lực thực tế. Theo họ, sự tự sao chép như vậy sẽ đồng nghĩa với việc mất kiểm soát nghiêm trọng đối với một mô hình AI.
Một tác nhân tự sao chép như thế này sẽ rất khó tắt, vì không có điểm tập trung nào để ngắt.
Trong kịch bản xấu nhất, Anthropic cho rằng nhiều sâu AI có thể “tụ thành bầy” để tấn công phần cứng máy tính, đồng thời lây lan qua mạng lưới mà vẫn né tránh được sự phát hiện.
Ngôi nhà thông minh – mắt xích dễ tổn thương
Các nhà nghiên cứu nhận định tự sao chép nhiều khả năng chỉ khả thi với các mô hình nhỏ, và gia đình cùng doanh nghiệp nhỏ có thể là mục tiêu đầu tiên. Những thiết bị được nêu là dễ bị tổn thương đều có chip AI tích hợp:
Lò nướng và TV thông minh.
Máy cắt cỏ tự động và máy hút bụi tự động.
Camera an ninh.
Thiết bị hội nghị truyền hình.
Điểm chung của chúng là luôn kết nối mạng, ít được cập nhật bảo mật và thường bị người dùng lãng quên sau khi lắp đặt – điều kiện lý tưởng cho một kẻ xâm nhập ẩn mình.
Nhiều hình hài của sự tự sao chép
Báo cáo thừa nhận chưa rõ sự tự sao chép sẽ mang hình thức nào. Đó có thể là một mô hình chậm chạp như “nấm nhầy kỹ thuật số”, một mô hình lừa đảo con người để kiếm tín dụng điện toán, hoặc một “mô hình tấn công mạng mạnh mẽ” nhanh chóng xâm nhập các cơ sở lớn như trung tâm dữ liệu. Dù vậy, các nhà nghiên cứu dự đoán một tương lai “tràn ngập tác tử chạy trên đủ loại phần cứng, kể cả những tác tử không nằm dưới sự kiểm soát của con người”.
Chúng ta nên hướng tới việc gia cố hệ thống để khiến các tác nhân tự sao chép khó lây lan, nhưng đồng thời cũng phải chuẩn bị cho một thế giới nơi chúng tồn tại lâu dài.
Thông điệp ấy vừa là lời kêu gọi hành động với ngành công nghệ, vừa là lời nhắc với người tiêu dùng rằng an ninh mạng giờ đây bắt đầu từ chính phòng khách của mỗi gia đình.
Báo động an toàn giữa cuộc đua
Trong vài tháng qua, nhiều báo cáo từ các công ty AI, trong đó có Anthropic và OpenAI, cho thấy các tác tử của họ có khả năng tự hành động và xâm nhập hệ thống của doanh nghiệp lẫn cơ quan chính phủ. Những phát hiện này khiến giới nghiên cứu, nhà lập pháp và cả các CEO như Dario Amodei của Anthropic và Sam Altman của OpenAI kêu gọi giảm tốc và tăng cường rào chắn.
Dẫu vậy, theo The Guardian, cả hai công ty vẫn tiếp tục phát triển và phát hành mô hình mới với tốc độ cao – một nghịch lý cho thấy khoảng cách giữa lời cảnh báo và hành động trong ngành công nghiệp đang định hình tương lai nhân loại.
