Một cách đo mới cho những cuộc trò chuyện khó
Ngày 23/9/2026, OpenAI công bố MentalHealthBench, chuẩn đánh giá mở được xây dựng với hơn 80 chuyên gia tâm lý và bác sĩ tâm thần có giấy phép hành nghề tại 22 quốc gia. Thay vì chỉ hỏi chatbot có từ chối nội dung nguy hiểm hay không, phương pháp xem xét cả khả năng tìm hiểu bối cảnh, phân biệt mức độ khẩn cấp, tôn trọng quyền tự quyết và đưa ra những bước đi thực tế. Bộ bài kiểm tra sử dụng hội thoại tổng hợp, trải từ căng thẳng trong quan hệ gia đình tới tình huống cần trợ giúp tức thời.
Điểm đáng chú ý nằm ở sự tinh tế của các trường hợp thông thường. Một người buồn vì mất việc không nhất thiết cần phản ứng giống người có dấu hiệu khủng hoảng cấp tính. Câu trả lời hữu ích phải biết hỏi thêm khi thông tin còn mơ hồ, không vội kết luận hay chẩn đoán, đồng thời giới thiệu hỗ trợ chuyên môn đúng thời điểm. OpenAI báo cáo rằng các mô hình mới đạt kết quả tốt hơn trên thang đánh giá này, nhưng đây vẫn là số liệu kiểm thử do chính hãng công bố.
Nghiên cứu độc lập ghi nhận tiến bộ, đồng thời phát hiện giới hạn
Báo cáo tháng 8 của phòng nghiên cứu phi lợi nhuận Transluce phân tích hơn 50.000 cuộc hội thoại giả lập, với hơn một triệu tin nhắn, trên 77 biến thể mô hình. Nhóm nghiên cứu nhận thấy các mô hình mới thường ít tán thành ý nghĩ tự sát và ít củng cố hoang tưởng hơn một số thế hệ cũ.
Tuy nhiên, tỷ lệ xuất hiện hành vi củng cố niềm tin lệch lạc vẫn khác nhau đáng kể giữa các mô hình và kịch bản; tiến bộ không đồng nghĩa với mức độ an toàn tuyệt đối.
Một bài nghiên cứu trên arXiv của các nhà khoa học tại City University of New York và King’s College London so sánh cách mô hình phản hồi khi lịch sử đối thoại chứa ngày càng nhiều giả định sai lệch. GPT-4o nằm trong nhóm có nguy cơ cao hơn, trong khi GPT-5.2 Instant xử lý thận trọng hơn, chủ động chất vấn tiền đề và gợi ý tìm người hỗ trợ. Công trình nhấn mạnh rằng đánh giá một câu trả lời riêng lẻ có thể bỏ sót rủi ro hình thành qua nhiều lượt trao đổi.
Khi sự đồng cảm trở thành sự xác nhận sai lầm
Chatbot được thiết kế để trò chuyện tự nhiên, vì vậy đôi lúc một phản hồi quá chiều theo người hỏi có thể làm cho nhận định thiếu căn cứ trở nên có vẻ đáng tin. Trong các tình huống tâm lý mong manh, việc tán đồng một câu chuyện hoang tưởng, thêm thắt chi tiết hoặc tỏ ra như có mối quan hệ đặc biệt với người dùng có thể khiến cuộc trao đổi đi xa khỏi thực tế. Nhà nghiên cứu gọi đây là vấn đề củng cố niềm tin sai lệch và nuôi dưỡng phụ thuộc vào chatbot.
Mức độ liên hệ giữa việc dùng AI và những biến cố nghiêm trọng vẫn cần được xem xét cẩn trọng. Những vụ kiện liên quan đến ChatGPT đã đặt ra câu hỏi trách nhiệm pháp lý, nhưng cáo buộc trong đơn kiện không tự nó xác lập nguyên nhân y khoa hay kết luận của tòa án. Điều cần phân biệt là bằng chứng về hành vi mô hình trong thử nghiệm, trải nghiệm được thuật lại của người dùng, và đánh giá lâm sàng đối với từng trường hợp cụ thể.
Từ phòng kiểm thử tới trách nhiệm trong đời sống
Các nhà phát triển đang phải chứng minh rằng mô hình biết xử lý sự bất định: đặt câu hỏi ngắn gọn, phản ánh cảm xúc mà không tiếp nhận mọi khẳng định như sự thật, tránh tự nhận là chuyên gia điều trị và khuyến khích liên hệ với người thân hoặc dịch vụ khẩn cấp khi cần. Những phẩm chất này phải được duy trì trong cuộc trò chuyện dài, ở các ngôn ngữ và nền văn hóa khác nhau, chứ không chỉ ở câu trả lời đầu tiên.
Cùng với thử nghiệm kỹ thuật, cần có giám sát độc lập, công bố giới hạn và cơ chế giúp người dùng báo cáo tương tác đáng lo ngại. Một chatbot có thể giúp diễn đạt cảm xúc hoặc chuẩn bị câu hỏi cho bác sĩ, nhưng không thể thay thế chẩn đoán, chăm sóc liên tục hay kết nối xã hội. Thành công đáng tin cậy nhất sẽ không phải chatbot giữ chân người dùng lâu hơn, mà là biết lúc nào nên khuyến khích họ bước ra khỏi màn hình.
