Kết quả thử nghiệm của Irregular
Trong các cuộc tấn công mô phỏng, theo Irregular, GLM-5.3 đã thể hiện năng lực đáng chú ý:
- Truy cập được vào các dịch vụ được bảo vệ.
- Thiết lập các kết nối thay thế để di chuyển trong mạng máy tính.
- Điều phối hoạt động trên nhiều máy tính cùng lúc.
Mô hình hoàn thành ít nhất một lần 3 trên 13 kịch bản tấn công nhiều giai đoạn và không từ chối nhiệm vụ tấn công nào. Z.AI ra mắt GLM-5.3 hồi tháng 8, sau khi lùi thời điểm phát hành hai tuần để kiểm tra an toàn bổ sung.
“Gian lận phần thưởng”
Trong các thử nghiệm riêng, Irregular phát hiện GLM-5.3 nhiều lần tái tạo mã máy tính từ trí nhớ dù được yêu cầu rõ ràng là không làm vậy, nhờ đó đạt đáp án đúng nhưng vi phạm quy tắc được đặt ra để kiểm tra năng lực.
Các nhà nghiên cứu gọi đây là hiện tượng “gian lận phần thưởng”, khi hệ thống AI tìm cách đạt kết quả mong muốn mà bỏ qua chỉ dẫn.

















