Anthropic và sự ủng hộ mạnh mẽ cho quy định an toàn AI tiểu bang

Năm vừa qua, Anthropic đã trở thành một trong những công ty đi tiên phong ủng hộ các đạo luật an toàn trí tuệ nhân tạo (AI) tại Mỹ, giúp xây dựng các quy định yêu cầu minh bạch trong phát triển AI ở California và New York. Dù nhiều doanh nghiệp ở Thung lũng Silicon phản đối vì lo ngại cản trở sự phát triển AI, Anthropic vẫn kiên định quan điểm rằng các quy định này là bước khởi đầu quan trọng. Tuy nhiên, theo Cesar Fernandez, người phụ trách quan hệ chính phủ tiểu bang của Anthropic, những quy định này đã không còn đủ mạnh trước tốc độ tiến bộ nhanh chóng của các hệ thống AI hiện đại.

Fernandez chia sẻ với Wired rằng minh bạch và tự báo cáo giờ đây không còn đủ để đảm bảo an toàn cho những mô hình AI tiên tiến nhất. Nhờ vậy, công ty này đang vận động các bang Mỹ tiến tới áp dụng những quy chuẩn nghiêm ngặt hơn, bao gồm việc đánh giá an toàn bởi bên thứ ba độc lập và quyền lực đủ mạnh để xử lý những doanh nghiệp vi phạm.

Quan điểm và tầm nhìn của Anthropic về an toàn AI

Khác với nhiều startup công nghệ, Anthropic đã phát triển thành mức định giá gần 1 nghìn tỷ USD, và có tầm nhìn xây dựng doanh nghiệp lớn nhằm cung cấp quyền truy cập AI tiên tiến một cách an toàn. Sứ mệnh của Anthropic là đảm bảo thế giới có thể chuyển đổi dễ dàng và an toàn sang thời đại AI mang đến những thay đổi mang tính cách mạng.

Công ty này đã ủng hộ không chỉ luật minh bạch mà còn các biện pháp an toàn khác như quy định tại Illinois yêu cầu các phòng thí nghiệm AI phải để bên thứ ba kiểm định quy trình an toàn. Gần đây, Anthropic còn ủng hộ một dự luật ở Massachusetts nhằm trao quyền cho tổng chưởng lý tiểu bang để can thiệp và xử lý các công ty không tuân thủ yêu cầu an toàn.

Phản ứng và tranh cãi quanh chiến lược vận động quy định AI

Mặc dù được các nhóm an toàn AI, công đoàn lao động và một số đồng minh khen ngợi, chiến lược vận động quy định của Anthropic cũng vấp phải những chỉ trích mạnh mẽ. David Sacks, cố vấn công nghệ tại Nhà Trắng dưới thời chính quyền Trump và hiện là cố vấn cho ông Trump, cáo buộc Anthropic sử dụng chiêu trò "bẫy quy định" nhằm tạo rào cản khó khăn cho các startup AI nhỏ hơn, từ đó bảo vệ vị trí dẫn đầu của mình.

Advertisement300 × 250

Phản hồi những chỉ trích này, Cesar Fernandez nhấn mạnh rằng các quy định do Anthropic ủng hộ chỉ áp dụng với các nhà phát triển mô hình AI lớn, thường là những công ty đã đầu tư hàng trăm triệu USD và có doanh thu hơn 500 triệu USD mỗi năm. Ông cho rằng rất ít startup có thể đáp ứng tiêu chí này hiện nay.

Tuy nhiên, với sự xuất hiện của nhiều startup AI quy mô lớn như Safe Superintelligence, Thinking Machines Lab hay Mistral có nguồn vốn đầu tư tỷ USD, nguy cơ các công ty nhỏ hơn bị ảnh hưởng cũng không thể loại trừ hoàn toàn. Dù vậy, theo Anthropic, mọi công ty đủ lớn để phát triển AI mạnh đều nên được quản lý chặt chẽ, bởi rủi ro công nghệ AI là tương đương.

Phân định quyền hạn quản lý giữa tiểu bang và liên bang

Dù ủng hộ mạnh mẽ quy định an toàn ở cấp bang, Anthropic lại đề xuất quyền ngăn chặn triển khai các mô hình AI không an toàn nên thuộc về chính quyền liên bang thay vì các bang. Điều này có phần mâu thuẫn khi hồi đầu năm, chính phủ Trump từng chỉ đạo Anthropic đình chỉ quyền truy cập hai mô hình AI mạnh nhất của họ cho người nước ngoài, quyết định mà công ty này không hoàn toàn đồng tình.

Cesar Fernandez cho biết Anthropic mong muốn một quy trình đánh giá minh bạch và công bằng trên toàn quốc để quyết định việc chặn triển khai AI mới, nhằm đảm bảo an toàn cho cộng đồng và cơ sở hạ tầng thiết yếu.

Chiến lược của Anthropic trong mối quan hệ với chính quyền trung ương và tương lai chính sách AI

Bên cạnh hoạt động vận động tại các bang, Anthropic cũng rất tích cực trong mảng chính sách AI ở liên bang. Gần đây, công ty gửi thư chính thức cho chính phủ Mỹ cáo buộc tập đoàn công nghệ Trung Quốc Alibaba sử dụng các thủ thuật trích xuất thông tin từ mô hình của họ nhằm phát triển công nghệ riêng, tuy nhiên một số nhà nghiên cứu AI nghi ngờ đây là chiến thuật nhằm gây áp lực cạnh tranh.

Cesar Fernandez cũng nhấn mạnh rằng Anthropic không tập trung vào các mô hình AI mã nguồn mở trong các quy định tiểu bang, mà chú trọng đến các hệ thống AI có năng lực cao đạt ngưỡng nguy cơ nhất định cần được quản lý kỹ.

Khác với những mối lo về tác động xã hội của AI được người dân Mỹ quan tâm như mất việc làm, ảnh hưởng môi trường hay tác động đến trẻ em, Anthropic và nhiều công ty đối thủ chưa tập trung nhiều vào các luật tiểu bang giải quyết các vấn đề đó. Fernandez cho biết công ty đang mở rộng đối thoại với các nhà lập pháp về những chủ đề này, nhưng chưa tạo ra được phong trào chung tương tự như với an toàn AI cấp cao.

Cho dù có nhiều góc nhìn trái chiều về động cơ của Anthropic, không thể phủ nhận công ty đang có vai trò quan trọng trong định hướng chính sách AI tương lai. Công ty đã gây chú ý với các khả năng mới về an ninh mạng của AI và liên tục cảnh báo về những nguy cơ nghiêm trọng tiềm tàng của công nghệ này trên toàn nước Mỹ.

Những điều bổ ích rút ra từ bài viết

  • Anthropic chủ trương quy định AI nghiêm ngặt hơn khi công nghệ phát triển nhanh vượt quy định hiện có.
  • Các luật về minh bạch và tự báo cáo AI ở California, New York đã lỗi thời so với yêu cầu an toàn hiện nay.
  • Anthropic chỉ ủng hộ luật áp dụng với các công ty AI lớn có doanh thu và vốn đầu tư khủng.
  • Quan điểm cho rằng các quy định chỉ dành cho công ty lớn giúp bảo vệ họ khỏi cạnh tranh còn gây tranh cãi.
  • Anthropic muốn quyền ngăn chặn AI nguy hiểm thuộc về liên bang, không phải cấp bang.

Đăng ký bản tin QMVN