Lời cảnh báo hiếm có trong hồ sơ niêm yết
Thông thường, hồ sơ niêm yết là nơi doanh nghiệp vẽ nên bức tranh tươi sáng về tương lai. Nhưng Anthropic lại chọn cách nói thẳng về những hiểm họa tiềm tàng của chính công nghệ mà mình phát triển. Công ty cảnh báo các hệ thống AI tiên tiến, nếu không được phát triển, triển khai và vận hành với biện pháp bảo vệ, giám sát và an ninh phù hợp, có thể gây ra rủi ro thảm khốc, đặc biệt khi bị lạm dụng, sao chép, vũ khí hóa hoặc được phép vận hành với mức độ tự chủ cao.
Rủi ro thảm khốc hoặc đe dọa sự tồn vong của nhân loại.
Theo Anthropic, những lo ngại này đến từ các nhà hoạch định chính sách, cơ quan quản lý, giới nghiên cứu và cả những người bên trong công ty.
