Tổ chức từ thiện Mỹ lên kế hoạch dùng AI giám sát lớp học ở Gaza để phát hiện ngôn từ “thù hận”, gây lo ngại về quyền riêng tư và quyền tự chủ giáo dục

Theo kế hoạch được ông David Hasan trình bày, các bản ghi âm trong lớp học sẽ được hệ thống AI phân tích để phát hiện ngôn từ bị coi là bài Do Thái, kích động hoặc thù hận. Nếu phát hiện vấn đề, cảnh báo sẽ được gửi tới ông Hasan, người sau đó có thể liên hệ giáo viên để tìm hiểu bối cảnh và góp ý. Theo ông, bản ghi được lưu trữ trong 72 giờ.

Theo một tin nhắn mà hãng AP được xem, công nghệ đã được thử nghiệm và dự kiến triển khai tại hàng chục lớp học. Ông Hasan cho biết hệ thống được phát triển cùng tổ chức phi lợi nhuận PollyLabs ở New York, nhưng PollyLabs khẳng định không tham gia phát triển hay triển khai công nghệ này.

Ông David Hasan, sinh ra ở Kuwait trong gia đình người Palestine và hiện giảng dạy tại trường y Đại học Duke, Mỹ, nảy ra ý tưởng thành lập tổ chức sau khi làm tình nguyện tại các bệnh viện ở Gaza trong chiến tranh. Ông kể từng được dạy từ nhỏ để có cái nhìn tiêu cực về người Do Thái và Israel, và muốn trẻ em Gaza sớm được tiếp cận những góc nhìn khác. Các trường “Học viện Hy vọng” của tổ chức cung cấp bữa ăn, chăm sóc y tế và tâm lý, phục vụ hàng nghìn trẻ, nhiều em mất cha mẹ trong chiến tranh.