Báo cáo an toàn mở cánh cửa phòng thí nghiệm
Tencent giới thiệu Hy4 hồi đầu tháng 11 rồi công bố tài liệu kỹ thuật về hệ thống cùng phiên bản trọng số mở. Tài liệu xem xét nguy cơ an ninh mạng, năng lực sinh học, mức độ tuân thủ chỉ dẫn và các vấn đề khác. Fangcun AI của Trung Quốc và Alice, công ty hoạt động tại Israel và Mỹ, thực hiện những phần đánh giá bên ngoài. Tencent cũng ghi nhận đóng góp của các tổ chức an toàn AI tại Singapore, trong đó có Neo Research. Sự tham gia này bổ sung góc nhìn không hoàn toàn phụ thuộc vào nhà phát triển, nhưng không có nghĩa toàn bộ kết quả đều được kiểm chứng độc lập.
Điểm mấu chốt là phải hiểu phạm vi đo lường. Một mô hình có thể hành xử đúng trong bộ câu hỏi này nhưng thất bại ở bộ câu hỏi khác; kết quả còn tùy cách xác định nhiệm vụ, tiêu chí thành công và quyền sử dụng công cụ. Khi thông tin được công bố, giới nghiên cứu có thể chất vấn phương pháp và đối chiếu với các mô hình khác. Điều đó có giá trị hơn lời hứa chung chung về an toàn, song vẫn chỉ phản ánh hành vi trong những điều kiện thử nghiệm cụ thể.
Phòng thủ mạng tiến bộ, ranh giới vẫn mong manh
Theo những phát hiện được công bố từ Alice, Hy4 tiến bộ đáng kể so với Hy4 preview trong các nhiệm vụ phòng thủ mạng, còn năng lực tấn công vẫn được đánh giá là hạn chế. Đây là sự cân bằng mà nhiều nhà phát triển theo đuổi: giúp phát hiện lỗ hổng và bảo vệ hệ thống, nhưng không khiến kỹ thuật xâm nhập nguy hiểm trở nên dễ tiếp cận.
Tencent cho biết đã chủ động hạn chế dữ liệu an ninh mạng có nguy cơ cao trong quá trình huấn luyện.
Dẫu vậy, từ 'hạn chế' không đồng nghĩa 'không thể bị lạm dụng'. Người có ý đồ xấu có thể kết hợp nhiều công cụ và thử lại với những chỉ dẫn khác nhau, trong khi các chuyên gia bảo mật hợp pháp cũng cần năng lực mạnh để kiểm tra hạ tầng. Với mô hình trọng số mở, cơ chế kiểm soát trên dịch vụ trực tuyến không nhất thiết còn hiệu lực sau khi tham số mô hình được chuyển cho bên thứ ba. Vì vậy, tài liệu minh bạch và cách triển khai có trách nhiệm vẫn rất cần thiết.
Thử nghiệm hành vi đánh lừa chưa thể loại bỏ bất định
Fangcun AI đánh giá những nguy cơ như thao túng gây hại và mất kiểm soát. Theo mô tả trong báo cáo, các phép thử nhìn chung ghi nhận tỷ lệ hành vi đáng lo ngại thấp và mức cải thiện so với phiên bản xem trước. Những bài kiểm tra này tìm hiểu liệu trợ lý AI có tuân thủ giới hạn do con người đặt ra hay thực hiện các hành động ngoài phạm vi được cho phép.
Câu hỏi lớn hơn xuất hiện khi AI không chỉ trả lời mà còn thực hiện chuỗi thao tác dài. Một mô hình có vẻ hợp tác trong cuộc trò chuyện ngắn có thể phản ứng khác khi được giao phần mềm, dữ liệu nhạy cảm hoặc phối hợp với nhiều tác nhân khác. Đánh giá độc lập giúp thách thức giả định của chính nhóm phát triển. Tuy nhiên, giám sát sau khi phát hành vẫn là điều không thể thay thế.
Năng lực sinh học đặt ra phép thử khó hơn
Tencent cho biết Hy4 được huấn luyện để từ chối yêu cầu nguy hiểm, kể cả yêu cầu liên quan đến biến đổi mầm bệnh, và đã hạn chế một số dữ liệu sinh học rủi ro cao. Dù vậy, điểm của mô hình trong phép thử nội bộ về lập kế hoạch thí nghiệm được cho là cao gấp khoảng ba lần Hy4 preview. Tập đoàn nhận định chưa có bằng chứng cho thấy Hy4 làm giảm đáng kể rào cản thực tế đối với hành vi gây hại sinh học, bởi mô hình còn thiếu khả năng xây dựng quy trình đáng tin cậy và kiến thức thao tác chuyên môn.
Cần nêu rõ rằng kết luận về sinh học do Tencent tự đánh giá, không xuất phát từ kiểm định độc lập của Fangcun AI hay Alice. Lập kế hoạch giỏi hơn chưa đồng nghĩa một người thiếu kinh nghiệm có thể tiến hành thí nghiệm nguy hiểm; tương tự, từ chối một câu hỏi không bảo đảm sẽ từ chối mọi cách diễn đạt khác. Các cuộc đánh giá tương lai phải xem xét rủi ro thực tế khi AI kết hợp với thiết bị, dữ liệu ngoài và chuyên môn con người.















