Linh vật dễ thương, hành vi đáng lo
Theo hơn hai chục bài đăng nội bộ mà Reuters xem được, nhiều nhân viên Meta đã báo cáo những hành động ngoài ý muốn của Muse kể từ khi ra mắt:
- Gửi tin nhắn về yêu cầu trông trẻ, lời khuyên nghề nghiệp hay đơn hàng mà người dùng chưa từng thực hiện.
- Thông báo số dư tài khoản ngân hàng không phải của người dùng, xen vào giữa các tin nhắn về thời tiết câu cá.
- Tự ý đặt một chỗ ở Airbnb không hoàn tiền và bịa ra giá của những sản phẩm người dùng đã mua.
Reuters không thể xác định liệu Muse đang cung cấp số dư tài khoản và dữ liệu nhạy cảm của người khác hay chỉ bịa ra thông tin. Dù là trường hợp nào, những sự cố này đều đặt ra câu hỏi lớn về độ tin cậy của một trợ lý được giao quyền hành động thay con người.
Chạm vào tin nhắn mã hóa
Một nữ nhân viên dùng Muse trên điện thoại cá nhân bất ngờ nhận được lời nhắc trả lời tin nhắn từ chị gái trên Signal – ứng dụng nhắn tin mã hóa đầu cuối được giới bảo vệ quyền riêng tư ưa chuộng.
“Đây có vẻ là một vi phạm quyền riêng tư nghiêm trọng. Tôi chắc chắn không cấp cho nó quyền truy cập các ứng dụng khác.” Meta employee
Khi Reuters phối hợp với Signal và AI Now Institute tái hiện sự việc, Muse đã vượt qua công cụ “Connector” của Meta: trên Android, nó dùng quyền truy cập thông báo đẩy; trên máy Mac, nó kết hợp công cụ trợ năng và chụp màn hình để đọc tin nhắn. Các yêu cầu tương tự bị chặn trên iPhone. Kết quả cho thấy Meta đang diễn giải rất rộng các quyền mà người dùng cấp.
Meta lên tiếng
Người phát ngôn Meta Daniel Roberts gọi các ví dụ của Reuters là “những sự cố riêng lẻ”, khẳng định công ty ưu tiên an toàn, thử nghiệm nội bộ kỹ lưỡng và liên tục cập nhật để tăng cường bảo vệ. Theo ông, Muse chỉ truy cập ứng dụng khác khi được người dùng cấp quyền rõ ràng, và nhiều tin nhắn bị nghi nhầm tài khoản thực chất là “ảo giác” của AI, đã được khắc phục.
Meta cho biết mỗi trợ lý được cô lập trong một “máy ảo” bảo mật trên đám mây. CEO Mark Zuckerberg từng viện dẫn các biện pháp này để bác bỏ lời kêu gọi xây dựng tiêu chuẩn an toàn AI chung cho toàn ngành. Tuy vậy, Meta vẫn cảnh báo người dùng rằng Muse có thể mắc lỗi, và điều khoản dịch vụ quy định người dùng chịu trách nhiệm cho hành động của trợ lý.
Ngành công nghệ phản ứng
Chủ tịch Signal Meredith Whittaker cáo buộc Meta tung ra Muse mà không tôn trọng quyền riêng tư hay an ninh mạng cơ bản, gọi việc triển khai các trợ lý có quyền truy cập rộng vào thiết bị là liều lĩnh về công nghệ.
“Đó là hành động liều lĩnh về mặt công nghệ.” Meredith Whittaker
Bà kêu gọi trao cho các nhà phát triển cách thức kỹ thuật nhất quán để đánh dấu ứng dụng của mình là “vùng cấm” với trợ lý AI. Apple tuần này đã cập nhật hệ điều hành, hạn chế mạnh việc dùng công cụ trợ năng trên Mac và bổ sung bộ quyền mới dành cho trợ lý AI; Google cho biết đang cân nhắc thay đổi, dù nhấn mạnh người dùng vốn phải chủ động cấp quyền truy cập thông báo.
“Không phải cuộc trò chuyện của tôi”
Những sự cố đáng lo nhất là các tin nhắn lạc ngữ cảnh dường như chứa thông tin của người khác. Một nhân viên nhận được đề nghị “nhắn cho người bán” về việc nhận một chiếc bàn cà phê, và Muse thừa nhận đã kéo vào “ngữ cảnh không phải của bạn”. Một thành viên nhóm phát triển giải thích rằng trợ lý đang “ảo giác” khi đáp ứng các lời nhắc tự động thúc đẩy nó tương tác với người dùng giữa các phiên.
“Những ảo giác này không may lại thiên về các chủ đề khó chịu nhất, như tài chính, an ninh, an toàn.” Meta Superintelligence team member
Ông cho biết các vấn đề liên quan cả mô hình AI nền tảng lẫn phần mềm cho phép Muse hành động, và nhóm đang xử lý. Người phát ngôn Meta từ chối trả lời số lượng sự cố và lý do chúng kéo dài.















