Chiến lược AI của Canada và cuộc tham vấn quốc gia

Chính phủ liên bang Canada đang tiến hành một cuộc tham vấn rộng rãi nhằm thu thập ý kiến người dân về việc quản lý công nghệ trí tuệ nhân tạo (AI), đặc biệt tập trung vào các tác nhân AI có thể gây hiểu lầm hoặc gây hại cho người dùng. Các chủ đề tham vấn bao gồm việc đánh dấu nội dung được tạo bởi AI trong các lĩnh vực như âm nhạc, báo cáo viết và video với dấu hiệu nhận biết đặc biệt, nhằm đảm bảo sự minh bạch trong việc sử dụng công nghệ này.

Cuộc tham vấn được tổ chức sau khi Evan Solomon, Bộ trưởng Bộ Trí tuệ Nhân tạo và Đổi mới Kỹ thuật số, công bố chiến lược AI quốc gia vào tháng 6 năm nay. Tiến trình này nhằm nhận phản hồi từ cả chuyên gia công nghệ và cộng đồng người dân, từ đó hoạch định các chính sách phù hợp trong việc minh bạch hóa và quản lý các sai sót do AI gây ra.

Thách thức về trách nhiệm và minh bạch trong ứng dụng AI

Tài liệu thảo luận đi kèm cuộc tham vấn đề cập đến tình trạng sử dụng AI ngày càng phổ biến tại Canada, khi người dân ngày càng tương tác với các tác nhân AI trong việc mua sắm, gửi email hay sắp xếp lịch họp. Điều này đặt ra câu hỏi về trách nhiệm pháp lý khi các chatbot đưa ra thông tin sai lệch hoặc thất bại trong thực hiện nhiệm vụ.

Một ví dụ thực tế được nêu là trường hợp một người dân Toronto đã trao đổi qua lại với chatbot từ đại lý ô tô về giá mua lại xe của mình. Chatbot tên gọi Quinn đã đề xuất mức giá 27.163 đôla Canada, tuy nhiên sau đó một nhân viên đại lý xác nhận đó là lỗi của AI và mức thực tế chỉ 20.000 đôla. Dù vậy, đại lý cuối cùng đã đồng ý trả đúng mức giá do AI đưa ra. Sự việc làm dấy lên mối lo ngại về khả năng AI không rõ ràng với người dùng và giới hạn của trách nhiệm pháp lý trong các tình huống này.

Những rủi ro tiềm ẩn trong hoạt động mua sắm và bảo vệ người tiêu dùng

Cuộc thảo luận cũng chỉ ra việc AI có thể bị lợi dụng cho mục đích xấu, bao gồm tấn công mạng và ăn cắp danh tính. Các tác nhân AI mua sắm tự động có thể bị thao túng để thực hiện các giao dịch không đúng mong muốn người dùng, từ đó gây thiệt hại tài chính nghiêm trọng.

Advertisement300 × 250

Một tình huống được đề cập là người tiêu dùng cho phép tác nhân AI truy cập tài khoản và thẻ tín dụng để mua hàng hóa, nhưng thay vì mua một gói 12 sản phẩm, AI lại đặt 12 đơn hàng với cùng sản phẩm đó, vượt quá ngân sách dự trù. Tài liệu nêu rõ việc xác định trách nhiệm trong trường hợp này là phức tạp, giữa người tiêu dùng, doanh nghiệp và nhà phát triển AI, cũng như các cơ chế bồi thường chưa minh bạch.

Thực trạng sản phẩm AI sai lệch và nguy cơ lan truyền thông tin giả mạo

Tài liệu cảnh báo các hệ thống AI có thể tạo ra các nội dung có vẻ thuyết phục nhưng không chính xác về mặt thực tế. Ví dụ pháp lý được trích dẫn ghi nhận trong ba tháng đầu năm 2024 có hơn 130 phán quyết của các tòa án Canada có trích dẫn các vụ án không tồn tại, nhiều khả năng do nội dung được tạo ra bởi AI.

Việc lan truyền nội dung giả mạo do AI tạo ra không chỉ gây khó khăn cho các cơ quan hành pháp và pháp lý mà còn có thể dẫn đến các hậu quả nghiêm trọng kể cả sức khỏe và an toàn cộng đồng, như trong các trường hợp lừa đảo tài chính hay trong khủng hoảng cháy rừng.

Minh bạch nội dung AI và các giải pháp đang được cân nhắc

Chính phủ Canada đang tập trung đánh giá các công cụ và chính sách để nâng cao minh bạch trong sử dụng công nghệ AI, gồm việc sử dụng các dấu hiệu nhận biết như watermark (dấu nước), tuyên bố từ chối trách nhiệm hoặc metadata giúp xác định nguồn gốc nội dung do AI tạo ra.

Có nhiều ý kiến đang được khảo sát về việc lựa chọn giữa watermark ẩn hoặc hiện, nhằm giúp người dùng dễ dàng nhận biết nội dung được tạo ra hoặc chỉnh sửa bởi AI. Hiện tại, các dấu hiệu nhận biết đối với hình ảnh, âm thanh và video đã khá phát triển, trong khi đối với văn bản vẫn còn nhiều khó khăn do các watermark dễ bị can thiệp và loại bỏ.

Bộ trưởng Evan Solomon nhấn mạnh cuộc tham vấn sẽ giúp đảm bảo người dân Canada có tiếng nói trong quá trình xây dựng các chính sách minh bạch và hiệu quả, góp phần định hình tương lai công nghệ AI tại quốc gia này.

Những điều bổ ích rút ra từ bài viết

  • Chính phủ Canada đang thu thập ý kiến để dự thảo quy định minh bạch về công nghệ AI.
  • Cần rõ trách nhiệm pháp lý khi AI gây ra sai sót, nhất là trong thương mại điện tử.
  • AI có thể tạo ra nội dung sai lệch, gây khó khăn cho hệ thống pháp luật và xã hội.
  • Sử dụng dấu hiệu nhận biết (watermark) là giải pháp được cân nhắc để phân biệt nội dung do AI tạo ra.
  • Rủi ro của AI không chỉ về sai sót kỹ thuật mà còn tiềm ẩn các hành vi xấu như lừa đảo, trộm cắp thông tin.

Đăng ký bản tin QMVN