Khi hóa đơn token phình to
Ban đầu, các ngân hàng nghĩ đã có lời giải cho bài toán chi phí: một hệ thống điều phối tự động chuyển câu hỏi đơn giản của nhân viên sang mô hình AI rẻ, còn câu hỏi phức tạp mới đến tay mô hình đắt tiền. Nhưng khi AI không còn chỉ trả lời, mà bắt đầu tự hành động qua các tác tử, phép tính ấy nhanh chóng đổ vỡ.
Những mô hình đó không hiệu quả khi các tác tử AI làm việc, bởi chúng giao tiếp với nhau và token cộng dồn rất nhanh.
Ông Sohoni, đối tác cấp cao của McKinsey và là một trong các tác giả báo cáo, giải thích với Reuters rằng mỗi tác tử có thể gọi tác tử khác, kiểm tra lại kết quả rồi gửi tiếp yêu cầu mới, khiến lượng token tiêu thụ tăng theo cấp số. Trách nhiệm kiểm soát chi tiêu vì thế đã được chuyển sang các nhóm mới, mà một số ngân hàng gọi là AI FinOps.
Đặt cược có chọn lọc
Hệ quả trực tiếp là các nhà băng trở nên kén chọn hơn. Thay vì rải AI tác tử khắp mọi phòng ban, họ tập trung vào những lĩnh vực có tỷ suất hoàn vốn kỳ vọng cao nhất.

















