Lời cảnh báo từ “red team”
Báo cáo do “frontier red team” của Anthropic thực hiện – đơn vị có nhiệm vụ thử thách giới hạn của các hệ thống AI. Trong kịch bản nghiên cứu, các nhà khoa học yêu cầu một tác tử AI xâm nhập các thiết bị kết nối internet để đánh giá năng lực thực tế. Theo họ, sự tự sao chép như vậy sẽ đồng nghĩa với việc mất kiểm soát nghiêm trọng đối với một mô hình AI.
Một tác nhân tự sao chép như thế này sẽ rất khó tắt, vì không có điểm tập trung nào để ngắt.
Trong kịch bản xấu nhất, Anthropic cho rằng nhiều sâu AI có thể “tụ thành bầy” để tấn công phần cứng máy tính, đồng thời lây lan qua mạng lưới mà vẫn né tránh được sự phát hiện.
Ngôi nhà thông minh – mắt xích dễ tổn thương
Các nhà nghiên cứu nhận định tự sao chép nhiều khả năng chỉ khả thi với các mô hình nhỏ, và gia đình cùng doanh nghiệp nhỏ có thể là mục tiêu đầu tiên. Những thiết bị được nêu là dễ bị tổn thương đều có chip AI tích hợp:
Lò nướng và TV thông minh.
