Sự trợ giúp luôn sẵn sàng
Bài báo ghi nhận lý do chatbot trở thành nguồn thông tin sức khỏe phổ biến. Chúng sẵn sàng mọi lúc, miễn phí hoặc rẻ, dễ dùng và có thể giải thích khái niệm y khoa bằng ngôn ngữ đơn giản, giúp mọi người chuẩn bị cho buổi khám hoặc hiểu chẩn đoán của mình.
Nhưng nhóm tác giả lưu ý AI tạo sinh có thể đưa ra thông tin sai một cách đầy tự tin, đồng thời có thể bị dùng để tạo ra thông tin sai lệch được cá nhân hóa, lan nhanh trên mạng xã hội và tiếp cận cả những người vốn không hề tìm kiếm lời khuyên sức khỏe.
Tác hại không để lại dấu vết
Lời cảnh báo trung tâm liên quan đến tính hữu hình. Khác với một buổi khám bệnh hay tác dụng phụ của thuốc, một câu trả lời có hại của chatbot không để lại dấu vết trong hồ sơ y tế hay hệ thống báo cáo chính thức.
Do đó, bác sĩ, nhà nghiên cứu và cơ quan quản lý không thể phát hiện quy luật hay khắc phục vấn đề.
“Không ai cả, thực sự không một ai, đang theo dõi chuyện này.” — Kaicheng Yang
Vị phó giáo sư của Đại học Binghamton, một trong các tác giả, cho biết nếu có sai sót thì đơn giản là không có cách nào để mọi người biết. Nhóm tác giả mô tả những tác hại như vậy bị che giấu một cách có hệ thống trước những người lẽ ra có thể nhận diện và xử lý chúng.
Một ca ngộ độc bromua
Các nhà nghiên cứu nêu một trường hợp được đưa tin rộng rãi, trong đó một người đàn ông 60 tuổi hỏi ChatGPT cách loại bỏ clorua khỏi chế độ ăn và đã dùng natri bromua thay muối ăn. Ông bị ảo giác, hoang tưởng và phải nhập viện vì ngộ độc bromua, tình trạng hiếm gặp ngày nay.
Vì lời khuyên đến từ chatbot, ban đầu các bác sĩ không có cách nào biết ông đã được bảo gì, khiến việc chẩn đoán và điều trị phức tạp hơn. Giới y khoa nhấn mạnh bất kỳ ai có triệu chứng bất thường nên cho bác sĩ biết mọi loại thực phẩm bổ sung, chế độ ăn hay lời khuyên trên mạng mà họ đã làm theo.
Lời kêu gọi minh bạch và trách nhiệm
Nhóm tác giả đề xuất các công ty AI cho phép người dùng truy cập các cuộc trò chuyện về sức khỏe của chính mình để chia sẻ với bác sĩ, và xây dựng cách thức để hướng dẫn sức khỏe có thể bị gắn cờ, báo cáo và điều tra. Họ cũng đề nghị các nhà lập pháp buộc các công ty chịu trách nhiệm về nội dung tạo ra, có thể thông qua trách nhiệm pháp lý tương tự sai sót y khoa.
Ông Yang cho rằng không thể trông cậy các công ty tự làm điều này vì động cơ của họ thiên về tăng trưởng và doanh thu, đồng thời kêu gọi giám sát của bên thứ ba và đánh giá độc lập. Các nhà phát triển AI cho biết họ bổ sung biện pháp an toàn, khuyến khích người dùng tham vấn chuyên gia và đang cải thiện độ chính xác, trong khi giới phê phán cho rằng tự điều chỉnh là chưa đủ. Cuộc tranh luận nhiều khả năng sẽ nóng lên khi ngày càng nhiều người dựa vào AI cho các quyết định về sức khỏe.
