Khi suy luận vượt huấn luyện
Suy luận là quá trình vận hành các mô hình AI đã được huấn luyện để trả lời yêu cầu của người dùng, trong đó các đơn vị dữ liệu được gọi là token được xử lý. Số lượt gọi token qua các nhà cung cấp dịch vụ đám mây công cộng là thước đo nhu cầu ngày càng tăng đối với dịch vụ AI. Báo cáo không công bố lượng dữ liệu đang được dùng để huấn luyện AI tại Trung Quốc.
- Lượt gọi token trung bình mỗi ngày qua đám mây công cộng: hơn 175 nghìn tỷ.
- Mức tăng so với đầu năm 2024: hơn 1.000 lần.
- Tổng mức tiêu thụ token mỗi ngày tính cả đám mây riêng tính đến tháng 6: khoảng 500 nghìn tỷ, theo Viện Công nghệ Thông tin và Truyền thông Trung Quốc.
Cục Dữ liệu Quốc gia Trung Quốc ước tính hồi tháng 4 rằng nhu cầu năng lực tính toán cho suy luận AI cuối cùng có thể gấp ba lần nhu cầu cho huấn luyện, cho thấy nhu cầu hạ tầng ngày càng lớn.
“Kinh tế token” trong chiến lược quốc gia
Bắc Kinh ngày càng nhấn mạnh vai trò của token trong kỷ nguyên AI. Nhiều chính quyền địa phương, trong đó có Bắc Kinh, đã công bố kế hoạch phát triển kinh tế token, bao gồm các biện pháp thúc đẩy tiêu thụ token thông qua “nhà máy token” và nền tảng phân phối token.















