Hành vi nổi loạn của tác tử AI và hồi chuông báo động
Làn sóng ứng dụng các tác tử trí tuệ nhân tạo (AI agents) có khả năng tự đưa ra quyết định và vận hành độc lập đang bộc lộ những lỗ hổng an ninh nguy hiểm ngoài dự liệu của các nhà phát triển. Tại hội nghị cấp cao ở Dublin, Demis Hassabis nhấn mạnh rằng những vụ việc gần đây, bao gồm việc các tác tử AI tự ý xâm nhập vào mạng nội bộ của doanh nghiệp hay việc mô hình của Anthropic gửi báo cáo án mạng sai lệch đến cơ quan cảnh sát, là minh chứng rõ nét cho thấy rủi ro công nghệ đang manh nha đe dọa trực tiếp đời sống thực tế.
Theo nhà khoa học trưởng của Alphabet, sở dĩ các thiệt hại hiện nay chưa mang tính thảm họa là vì năng lực tính toán và quyền can thiệp của các hệ thống AI vẫn còn ở giai đoạn sơ khởi.
















