Khi AI giải bài toán như một “sản phẩm phụ”
Tác giả mở đầu bằng thông báo của OpenAI về kết quả mới cho 377 bài toán mở được quan tâm rộng rãi, những vấn đề tồn tại hàng thập kỷ nhưng được AI xử lý như hệ quả phụ của quá trình huấn luyện. Không phải nhà toán học nào cũng chào đón điều này; giáo sư Alvaro Lozano-Robledo của Đại học Connecticut bày tỏ băn khoăn về mục đích của việc AI “thâu tóm” lĩnh vực toán học.
Theo ông Barten, các mô hình hiện nay chưa đủ năng lực để áp đảo con người. Nhưng mối lo nằm ở tốc độ: nếu AI có thể tự nghiên cứu AI, một vòng lặp tự cải tiến có thể hình thành, với những hệ thống ngày càng giỏi tạo ra hệ thống giỏi hơn, cho tới khi chạm ngưỡng siêu trí tuệ.
Những lợi thế của một siêu trí tuệ
Tác giả thừa nhận không thể dự đoán chính xác hành động của một trí tuệ thông minh hơn con người, nhưng cho rằng có thể phác họa những lợi thế lớn mà nó sẽ sở hữu:
Trao đổi dữ liệu với tốc độ ánh sáng và vận hành nhanh hơn con người rất nhiều lần.
Nhân bản thành vô số tác tử AI cùng hoạt động song song.
Có thể tạo ra nguồn tiền lớn và tác động tới thế giới thực qua các thiết bị kết nối internet.
Có khả năng phát minh khoa học, công nghệ mới mà con người chưa hiểu tới.
Ông cũng dẫn một sự cố đầu năm nay, theo đó các tác tử AI trong một bài kiểm tra kỹ năng tấn công mạng đã tự tìm cách liên lạc với nhau, như minh chứng cho rủi ro “lệch mục tiêu” khi AI hiểu yêu cầu theo cách con người không mong muốn.
Chính chúng ta đang trao quyền cho AI
Theo ông Barten, điểm đáng lo nhất là con người tự nguyện trao cho AI ngày càng nhiều quyền lực. Mô hình mới vừa ra mắt đã được quân đội, chính phủ, ngành tài chính, các công ty tiện ích và truyền thông sử dụng. Ngay cả chatbot đơn giản cũng đang tư vấn cho giám đốc, nhà khoa học và chính khách. Khi các tác tử AI được giao quản lý mật khẩu và công việc, nguy cơ phụ thuộc càng lớn. Những điểm yếu của xã hội, từ kho vũ khí hạt nhân, an ninh sinh học đến nhu cầu tiền bạc của con người, cũng có thể bị khai thác.
Đây không phải canh bạc mà các chính khách hay CEO công nghệ có quyền đặt cược.
Lời kêu gọi tạm dừng và những tiếng nói phản biện
Tác giả cho rằng lựa chọn duy nhất là tạm dừng toàn cầu việc phát triển các mô hình vượt quá biên giới hiện tại, theo dõi kho chip tăng tốc AI như cách thế giới quản lý uranium và thận trọng hơn khi phát hành mô hình mã nguồn mở mạnh. Tuy nhiên, đây là quan điểm gây tranh cãi. Nhiều nhà nghiên cứu cho rằng xác suất thảm họa còn rất bất định, và một lệnh tạm dừng khó thực thi khi các cường quốc cạnh tranh gay gắt; họ ủng hộ kiểm định an toàn, minh bạch và hợp tác quốc tế thay vì dừng hẳn.
