Khởi kiện cá nhân sử dụng AI tạo nội dung phạm pháp
Ngày 14/7, công ty trí tuệ nhân tạo xAI của tỷ phú Elon Musk đã chính thức đệ đơn kiện lên tòa án liên bang tại Texas đối với Terry Harwood, một người đàn ông từ bang Nam Carolina. Ông Harwood bị cáo buộc lợi dụng nền tảng AI do xAI phát triển mang tên Grok để tạo ra các hình ảnh deepfake mang tính khiêu dâm sử dụng hình ảnh trẻ vị thành niên, hành vi bị xem là lạm dụng tình dục trẻ em.
Đây là một trong những vụ kiện đầu tiên mà một công ty AI trực tiếp phản ứng pháp lý trước hành vi lạm dụng công nghệ của chính người dùng. Dù bị bắt giữ từ tháng 2 năm nay vì cáo buộc liên quan đến việc khai thác tình dục trẻ em, thông tin liên hệ chi tiết của ông Harwood vẫn chưa được công bố rộng rãi.
Tác động nghiêm trọng và các biện pháp xử lý
xAI cho biết trong đơn kiện rằng họ đã phát hiện hành vi của bị đơn vi phạm nghiêm trọng các điều khoản sử dụng dịch vụ. Cụ thể, Harwood đã tải lên Grok hình ảnh của cả người lớn và trẻ em, không phải dưới dạng khiêu dâm, rồi cố gắng sản xuất các video deepfake mang tính chất khiêu dâm không có sự đồng thuận của những người trong ảnh.
Trước đó, hệ thống của xAI thường xuyên đối mặt với các chỉ trích toàn cầu liên quan đến việc người dùng tự ý tạo ra các hình ảnh deepfake tình dục không được phép. Để ứng phó, xAI đã cương quyết thực hiện việc đình chỉ tài khoản, khóa vĩnh viễn người vi phạm và báo cáo các trường hợp nghi ngờ tới Trung tâm quốc gia về trẻ em mất tích và bị bóc lột (NCMEC) ở Mỹ.
Tính đến năm 2026, công ty đã đình chỉ hơn 52.000 tài khoản và gửi hơn 73.600 báo cáo tới NCMEC, trong đó dẫn tới ít nhất 244 vụ bắt giữ liên quan đến nội dung lạm dụng tình dục trẻ em.
Yêu cầu pháp lý và nguy cơ với nạn nhân
Trong đơn kiện, xAI yêu cầu tòa án không chỉ bồi thường thiệt hại về mặt tài chính mà còn ban hành lệnh cấm vĩnh viễn Harwood sử dụng nền tảng Grok. Công ty cho rằng hành động của bị đơn là một âm mưu có chủ ý để biến công cụ AI thành phương tiện để thực hiện các hành vi phạm pháp, gây ra tổn thương lâu dài cho các nạn nhân.
Bên cạnh đó, việc này cũng đẩy xAI vào tình thế nguy hiểm, có thể phải đối mặt với các rủi ro pháp lý và tổn thất về mặt uy tín trên thị trường công nghệ. Đại diện xAI chưa đưa ra phát ngôn chính thức về vụ việc khi được liên hệ vào ngày 15/7.
Key takeaways from this article
- Vụ kiện của xAI là một trong những phản ứng pháp lý đầu tiên của công ty AI nhằm vào người dùng vi phạm.
- Hệ thống Grok đã bị lợi dụng để tạo deepfake khiêu dâm với hình ảnh trẻ em và người lớn không đồng thuận.
- xAI đã đình chỉ hơn 52.000 tài khoản và báo cáo trên 73.000 trường hợp nghi ngờ tới cơ quan chức năng năm 2026.
- Vụ việc nhấn mạnh rủi ro pháp lý và uy tín mà công ty công nghệ phải đối mặt khi sản phẩm của họ bị lợi dụng.
- Tòa án có thể ra lệnh cấm vĩnh viễn người vi phạm sử dụng công nghệ AI nhằm ngăn chặn hành vi tương tự.
Subscribe to the QMVN newsletter
A daily morning digest - only stories worth reading, no spam.












