Không thể quản lý một bầu không khí
Cal Newport mở đầu bằng cảnh báo rằng nỗi sợ về AI mạnh và không thể kiểm soát đã làm rung chuyển nước Mỹ, nhưng Quốc hội không thể quản lý một bầu không khí, cũng không thể đưa ra kiểm soát cụ thể dựa trên những câu chuyện ngụ ngôn đáng báo động về công nghệ trở nên quá mạnh. Trước bất kỳ can thiệp nào, Quốc hội cần dẫn đầu một sứ mệnh tìm kiếm sự thật công khai, phơi bày những chi tiết không tô vẽ về phát triển AI.
Theo ông, Dario Amodei và Sam Altman có xu hướng dùng thuật ngữ chung chung AI khi mô tả hệ thống của mình, hàm ý AI là một công nghệ đơn nhất cải thiện dọc theo một quỹ đạo cố định hướng tới chức năng ngày càng có khả năng và nguy hiểm hơn. Trên thực tế, AI là một danh mục rộng bao gồm tập hợp đa dạng các công nghệ, từ xe tự lái, đến công cụ chơi game, đến xử lý hình ảnh y tế, đến chatbot, đến công cụ mã hóa tự động. Chỉ một số tiến bộ phụ thuộc vào mô hình ngôn ngữ lớn LLM do các phòng thí nghiệm biên sản xuất.
Lỗi ở đâu: Đặc vụ AI kiểu Mad Max
Khi Amodei và Altman nói về nguy hiểm AI, họ thực sự đang đề cập đến một thiết lập cụ thể được gọi là đặc vụ được hỗ trợ bởi LLM. Thuật ngữ đặc vụ gợi lên cảm giác rờn rợn, nhưng chúng thực chất là các chương trình máy tính bình thường lặp đi lặp lại việc nhắc LLM đưa ra hướng dẫn và sau đó thực thi bất cứ điều gì mô hình đề xuất. Đặc vụ không đáng lo khi bị giới hạn trong các nhiệm vụ cụ thể với kiểm soát thông thường. Các nhà phát triển phần mềm sử dụng đặc vụ mã hóa tiên tiến mỗi ngày mà không sợ hệ thống sẽ nổi loạn.
