Yêu cầu gỡ bỏ ứng dụng tạo hình ảnh khỏa thân AI không đồng thuận
Ngày 22/6, Văn phòng Luật sư thành phố San Francisco do David Chiu dẫn đầu đã gửi thư yêu cầu pháp lý đến Apple và Google buộc hai công ty phải gỡ bỏ khỏi cửa hàng ứng dụng 13 ứng dụng liên quan đến công nghệ tạo hình ảnh khỏa thân bằng trí tuệ nhân tạo (AI) mà không có sự đồng thuận của người trong ảnh. Những ứng dụng này được quảng bá như các công cụ hoán đổi khuôn mặt, nhưng thực tế cho phép người dùng tạo ra các hình ảnh deepfake khiêu dâm phi pháp và gây hại sâu sắc đến quyền riêng tư và danh dự cá nhân.
Văn bản pháp lý nhấn mạnh rằng hành vi tạo hình ảnh thân mật không được sự cho phép là bất hợp pháp và ảnh hưởng nghiêm trọng đến người bị hại. Đồng thời, ông David Chiu cho biết Apple và Google đã thu lời hàng triệu đô la thông qua các khoản phí trong ứng dụng liên quan đến những công nghệ gây tranh cãi này và cần phải cải thiện quy trình kiểm duyệt để ngăn chặn các ứng dụng như vậy xuất hiện trên nền tảng của họ.
Luật California cấm hỗ trợ tạo nội dung deepfake khiêu dâm
Theo các thư pháp lý gửi hai công ty công nghệ, luật pháp bang California nghiêm cấm việc hỗ trợ các dịch vụ tạo nội dung deepfake khiêu dâm, đồng thời các ứng dụng này cũng vi phạm các chính sách nội dung của Apple và Google, vốn không cho phép những hành vi làm tổn thương hoặc quấy rối người dùng.
Những ứng dụng bị phát hiện không chỉ tận dụng hình thức thanh toán trong ứng dụng, mà qua đó còn giúp các công ty hưởng phần trăm doanh thu. Chính quyền San Francisco lên án hành động này: "Việc các tập đoàn công nghệ hàng đầu thế giới tiếp tay cho hoạt động này là không thể chấp nhận và phải chấm dứt ngay lập tức".
Thực trạng lan rộng và nguy cơ gây hại
Qua nhiều năm, các nhà nghiên cứu liên tục phát hiện các ứng dụng trên Apple App Store và Google Play Store cho phép tạo ra hình ảnh khiêu dâm sử dụng AI, thậm chí có một số ứng dụng được đánh giá phù hợp cho trẻ em. Các dịch vụ này ngày càng tinh vi, cho phép tạo ra các hình ảnh và video deepfake khá chân thực chỉ từ một bức ảnh gốc và vài thao tác đơn giản, đôi khi trong tích tắc.
Công nghệ tạo hình ảnh khỏa thân kỹ thuật số đang bị lạm dụng để quấy rối, tấn công tâm lý, và làm tổn thương các nạn nhân chủ yếu là phụ nữ và trẻ em gái, gây ra hậu quả nghiêm trọng về uy tín, sức khỏe tinh thần và sự an toàn cá nhân. Nhiều nạn nhân đã từng chịu áp lực tâm lý đến mức có ý định tự tử.
Phản hồi từ Apple và Google
Google cho biết họ đã xóa hàng trăm ứng dụng có tính năng "nudifying" vi phạm chính sách, bao gồm cả 5 ứng dụng được văn phòng Luật sư San Francisco đề cập. Spokesperson của Google, Dan Jackson, khẳng định Google Play không cho phép ứng dụng chứa nội dung tình dục và liên tục thực hiện các biện pháp để phát hiện, loại bỏ ứng dụng độc hại, đồng thời hạn chế các từ khóa liên quan như "nudify" trong tìm kiếm.
Trong khi đó, Apple chưa phát biểu chính thức về sự việc. Trước đây, cả hai công ty cũng đã từng gỡ bỏ nhiều ứng dụng deepfake và "nudify" sau khi nhận được các báo cáo từ các nhà nghiên cứu và truyền thông.
Quy mô và tác động kéo dài của công nghệ deepfake khiêu dâm
Trong vòng 5 năm qua, thị trường công nghệ deepfake để tạo hình ảnh khỏa thân đã phát triển mạnh mẽ, với nhiều trang web, ứng dụng và bot đa dạng cho phép người dùng, chủ yếu là nam giới, tải ảnh của phụ nữ và trẻ em gái rồi kỹ thuật số hóa, tạo nên các nội dung khiêu dâm không được đồng thuận. Một nghiên cứu cho thấy khoảng 420 ứng dụng có tính năng hoán đổi khuôn mặt nằm trong các cửa hàng ứng dụng của Apple và Google, trong đó có tới 70% có thể được dùng để tạo ảnh khỏa thân giả mạo mà không có biện pháp kiểm soát an toàn.
Ngoài ra, các báo cáo độc lập cũng đã chỉ ra 90 trường hợp ở các trường học bị phát hiện có hình ảnh xâm hại trẻ vị thành niên dạng deepfake được tạo ra từ công nghệ này.
Đánh giá của David Chiu cho thấy công nghệ này không chỉ là một mối nguy về pháp lý mà còn là thảm họa về mặt xã hội khi gây ra sự đau khổ tinh thần sâu sắc cho các nạn nhân.
Khả năng hành động pháp lý và kỳ vọng tiếp theo
Ông David Chiu cho biết văn phòng luật sư sẽ tiếp tục giám sát và xử lý vấn đề này vì mức độ nghiêm trọng và chiều hướng gia tăng của công nghệ deepfake khiêu dâm không đồng thuận. Ông hy vọng Apple và Google sẽ nhanh chóng gỡ bỏ các ứng dụng vi phạm và tăng cường hệ thống kiểm duyệt, tránh để các ứng dụng như vậy xuất hiện trở lại trên nền tảng của họ.
Nếu các công ty không hợp tác, thành phố San Francisco không loại trừ khả năng thực hiện các biện pháp pháp lý mạnh mẽ hơn nhằm chấm dứt việc lợi dụng nền tảng cho hoạt động có hại này.
Những điều bổ ích rút ra từ bài viết
- San Francisco yêu cầu Apple và Google gỡ bỏ 13 ứng dụng tạo ảnh khỏa thân AI không được phép.
- Apple và Google bị cáo buộc thu lợi hàng triệu đô la từ các ứng dụng vi phạm luật California về deepfake khiêu dâm.
- Các ứng dụng này thường lợi dụng tính năng hoán đổi khuôn mặt để tạo nội dung khiêu dâm phi pháp.
- Google đã xóa hàng trăm ứng dụng vi phạm, còn Apple chưa đưa ra bình luận chính thức.
- Văn phòng Luật sư San Francisco cảnh báo sẽ tiếp tục theo dõi và có thể dùng biện pháp pháp lý nếu công ty không chấm dứt hành vi này.
Đăng ký bản tin QMVN
Bản tin buổi sáng mỗi ngày - chỉ những bài đáng đọc, không spam.














