Sáng kiến quốc tế kiểm soát tốc độ phát triển AI tiên tiến
Ngày 30/7, hơn 1.100 nhân viên từ các công ty công nghệ hàng đầu như Meta Platforms, Anthropic, OpenAI và Alphabet (Google) đã phát đi tuyên bố kêu gọi chính phủ Mỹ hỗ trợ một nỗ lực quốc tế nhằm xây dựng các công cụ quản lý tốc độ phát triển trí tuệ nhân tạo tiên tiến (AI). Đây là phản ứng trước mối lo ngại ngày càng tăng rằng các hệ thống AI ngày càng mạnh có thể phát triển vượt quá khả năng kiểm soát và giám sát hiện có.
Sáng kiến mang tên "Pacing the Frontier" được các tổ chức phi lợi nhuận Guidelight AI Standards và Encode AI đồng hành cùng hỗ trợ. Các nhân vật chủ chốt trong ngành cũng đã ký tên xác nhận như CEO Anthropic Dario Amodei, Phó chủ tịch nghiên cứu AI của Meta Dawn Song, và Giám đốc Khoa học OpenAI Jakub Pachocki.
Lo ngại về tốc độ phát triển AI vượt kiểm soát
Theo tuyên bố chung, nhóm nhân viên này kêu gọi chính phủ Mỹ ủng hộ việc phát triển kỹ thuật và công cụ quản trị nhằm có thể, theo cách chủ động, điều tiết tốc độ phát triển AI tự động, giúp xã hội sẵn sàng ứng phó với các rủi ro tiềm ẩn.
OpenAI cũng đăng tải trên mạng xã hội X rằng họ tin rằng trong tương lai tốc độ tăng tốc phát triển các mô hình AI tiên tiến có thể cao tới mức cần có sự điều phối toàn cầu để giữ nhịp tiến bộ AI trong tầm kiểm soát.
Trong khi đó, Anthropic cũng nhấn mạnh nghiên cứu về cải tiến tự hồi quy của họ đã chỉ ra nhu cầu cần có các công cụ định hướng phát triển AI để chuẩn bị cho xã hội.
Động thái từ các công ty công nghệ khác và an ninh mạng
Cách đây một tháng, nhà sáng lập Claude Code – một hệ thống mô hình AI – đã kêu gọi các phòng thí nghiệm AI lớn cân nhắc việc tạm dừng có phối hợp trong phát triển, cảnh báo rằng những tiến bộ có thể khiến AI tự cải thiện nhanh hơn khả năng xã hội quản lý rủi ro.
Riêng Nvidia mới đây tuyên bố đã thành lập một liên minh cùng với Adobe, CrowdStrike và các công ty khác để phát triển công cụ đảm bảo an toàn và an ninh mạng cho AI. Điều này đến sau sự kiện an ninh mạng liên quan tới Hugging Face đã khiến cộng đồng công nghệ nâng cao cảnh giác với các tác nhân AI tự động.
Sự kiện này phản ánh mức độ quan trọng của an toàn và quản trị trong lĩnh vực AI vốn đang phát triển cực nhanh và ngày càng được ứng dụng rộng rãi trong nhiều mặt của đời sống và kinh doanh.











