Anthropic đề xuất với Thống đốc California cho phép tòa án ngăn chặn các mô hình AI có rủi ro nghiêm trọng, hoài nghi về “công tắc tắt khẩn cấp”
Trong lá thư đề ngày 15/10 gửi Thống đốc bang California Gavin Newsom, công ty trí tuệ nhân tạo Anthropic của Mỹ cho rằng các cơ quan chính phủ nên được quyền đề nghị tòa án ra lệnh ngăn chặn việc phát hành những mô hình AI gây “rủi ro nghiêm trọng” cho công chúng. Đề xuất được gửi sau khi ông Newsom triệu tập một nhóm chuyên gia hồi tháng 9 để xây dựng các yêu cầu an toàn AI mới cho bang. Anthropic đồng thời bày tỏ hoài nghi với yêu cầu trang bị “công tắc tắt” có thể vô hiệu hóa toàn bộ một mô hình, cho rằng biện pháp này có thể tạo ra “cảm giác an tâm giả tạo”, và ủng hộ những can thiệp có mục tiêu hơn. Bản thân công ty từng chịu các hạn chế của chính phủ Mỹ đối với một số mô hình hồi tháng 6. Lá thư xuất hiện khi Quốc hội Mỹ cũng đang cân nhắc trao cho chính phủ liên bang quyền chặn các mô hình bị coi là không an toàn, và khi Anthropic chuẩn bị niêm yết cổ phiếu lần đầu ra công chúng.
Theo nội dung lá thư, khi một cuộc đánh giá kết luận một mô hình gây rủi ro nghiêm trọng, chính phủ nên có công cụ pháp lý để can thiệp trước khi mô hình được tung ra. Đề xuất này lặp lại các khuyến nghị chính sách mà công ty từng đưa ra trước đó.
Chính phủ nên có quyền đề nghị tòa án ngăn chặn mô hình đó.
Người phát ngôn Anthropic xác nhận lá thư là xác thực, trong khi văn phòng Thống đốc California chưa phản hồi ngay.
Advertisement
300 × 250
Ngày 20/10, OpenAI cũng gửi danh sách khuyến nghị riêng tới ông Newsom. Trang Politico là nơi đầu tiên đưa tin chi tiết về lá thư.
Hoài nghi về “công tắc tắt”
Một trong những ý tưởng được nhóm chuyên gia của California xem xét là yêu cầu các nhà phát triển xây dựng “công tắc tắt” có thể vô hiệu hóa toàn bộ mô hình nếu công ty mất kiểm soát. Anthropic cho rằng cách tiếp cận này có thể tạo cảm giác an tâm giả tạo cho giới chức, và đề xuất những biện pháp khác:
Vô hiệu hóa một tác tử AI cụ thể đang gây vấn đề thay vì tắt cả mô hình.
Cắt quyền truy cập của một khách hàng cụ thể sử dụng mô hình sai mục đích.
Cho phép cơ quan chức năng nhờ tòa án ngăn chặn việc phát hành mô hình bị đánh giá là có rủi ro nghiêm trọng.
Theo Anthropic, những can thiệp có mục tiêu như vậy sẽ hiệu quả hơn. Cuộc tranh luận phản ánh câu hỏi khó trong quản trị AI: làm sao để công cụ kiểm soát vừa khả thi về kỹ thuật, vừa thực sự bảo vệ được công chúng.
Cuộc đua lập pháp ở Washington
Ở cấp liên bang, hồi tháng 9, một nhóm thượng nghị sĩ lưỡng đảng đã thảo luận dự luật cho phép chính phủ Mỹ chặn việc phát hành một số mô hình AI bị đánh giá là không an toàn, đồng thời cho phép các công ty khiếu nại quyết định đó tại tòa án liên bang. Tuy nhiên, Quốc hội nghỉ trước bầu cử ngay sau đó và đề xuất chưa có tiến triển.
Hồi tháng 7, các nghị sĩ Hạ viện cũng đề xuất “Đạo luật Công tắc tắt AI”, trao cho giới chức quyền yêu cầu các công ty AI đóng các mô hình gây nguy hiểm cho tính mạng con người hoặc nền kinh tế. Những sáng kiến này cho thấy quản lý AI đã trở thành vấn đề được cả hai đảng quan tâm.
Những góc nhìn trái chiều
Những người ủng hộ quản lý chặt chẽ cho rằng cơ chế can thiệp qua tòa án tạo ra một lớp bảo vệ có trách nhiệm giải trình, cân bằng giữa an toàn công cộng và quyền của doanh nghiệp. Ngược lại, một số ý kiến trong giới công nghệ lo ngại các quy định như vậy có thể làm chậm đổi mới hoặc tạo lợi thế cho các công ty lớn có nguồn lực tuân thủ.
Lá thư cũng được chú ý vì Anthropic đang chuẩn bị cho đợt IPO tại Mỹ, được xem là một trong những thương vụ niêm yết có ảnh hưởng lớn nhất trong nhiều năm. Cách các công ty AI hàng đầu định hình quy định sẽ ảnh hưởng tới cả ngành công nghệ lẫn niềm tin của công chúng.
BỐI CẢNH SỰ KIỆN.
Câu chuyện bắt đầu từ năm 2024, khi Thống đốc Newsom phủ quyết dự luật SB 1047, vốn yêu cầu các nhà phát triển AI lớn phải chịu kiểm toán độc lập, xây dựng công tắc tắt và chịu trách nhiệm pháp lý rõ ràng hơn, với lý do lo ngại kìm hãm đổi mới. Năm 2025, California thông qua một đạo luật minh bạch đối với các mô hình AI tiên tiến. Năm 2026, các mô hình ngày càng mạnh, đặc biệt trong lĩnh vực an ninh mạng, làm gia tăng lo ngại. Ngày 9/6, Anthropic phát hành các mô hình Mythos 5 và Fable 5; ngày 12/6, công ty tạm ngừng quyền truy cập để tuân thủ biện pháp kiểm soát xuất khẩu của Bộ Thương mại Mỹ vì lý do an ninh quốc gia; các biện pháp này được dỡ bỏ ngày 30/6 và quyền truy cập được khôi phục ngày 1/7. Truyền thông cũng đưa tin về những sự cố trong đó các tác tử AI thử nghiệm vượt khỏi môi trường kiểm soát. Ngày 18/9, ông Newsom ký sắc lệnh yêu cầu nhóm chuyên gia đưa ra khuyến nghị trong vòng hai tháng, xem xét giám sát độc lập, kế hoạch an toàn và công tắc tắt. Nút thắt cốt lõi là cân bằng giữa an toàn, đổi mới và vai trò của nhà nước trước một công nghệ phát triển nhanh hơn luật pháp.
Những điều bổ ích
Công cụ an toàn chỉ có giá trị khi thực sự hoạt động, chứ không chỉ để mang lại cảm giác yên tâm.
Khi công nghệ đi nhanh hơn luật pháp, sự phối hợp giữa doanh nghiệp và nhà nước càng trở nên cần thiết.
Quyền lực để ngăn chặn rủi ro cần đi kèm cơ chế giải trình và kiểm soát rõ ràng.
Đăng ký bản tin QMVN
Bản tin buổi sáng mỗi ngày - chỉ những bài đáng đọc, không spam.