State Street cảnh báo cuộc đua AI agent trong ngân hàng cần hàng rào an toàn khi tài chính bước vào kỷ nguyên tự động

Các ứng dụng AI trong tài chính không còn dừng ở việc tóm tắt báo cáo hay soạn thảo văn bản. Chúng có thể hỗ trợ đối chiếu dữ liệu, theo dõi giao dịch, chuẩn bị hồ sơ tuân thủ và phát hiện bất thường. Con số hơn 350 trường hợp ứng dụng mà State Street công bố cho thấy quy mô thử nghiệm đã mở rộng đáng kể, nhưng không đồng nghĩa tất cả đều đã được giao quyền tự động xử lý tiền hay đưa ra quyết định cuối cùng.

Theo Bohra, hàng nghìn nhân viên tại State Street đã trao đổi với AI trong công việc hằng ngày. Thách thức tiếp theo là tạo ra một mức độ tự chủ có giới hạn, để tác nhân AI thực hiện được công đoạn cụ thể thay vì chỉ đưa ra gợi ý. Sự chuyển dịch này có thể rút ngắn nhiều quy trình vốn phải chuyển tay qua nhiều bộ phận, song cũng làm thay đổi vị trí của con người trong chuỗi kiểm tra.

Bởi thế, hiệu quả không thể chỉ đo bằng số phút tiết kiệm. Ngân hàng còn phải đánh giá tính đúng đắn của dữ liệu, khả năng giải thích quyết định và liệu nhân viên có đủ thông tin để can thiệp trước khi một sai sót lan sang khách hàng hay đối tác.

Viễn cảnh hấp dẫn nhất là một tác nhân tại tổ chức này có thể liên lạc với tác nhân tại tổ chức khác để hoàn thành tác vụ. Chẳng hạn, hai bên có thể đối chiếu điều kiện nghiệp vụ mà không phải gửi qua nhiều vòng thư điện tử.

Nhưng một cuộc đối thoại giữa máy móc không đương nhiên là một giao dịch được phép, và kết nối kỹ thuật không thay thế được quyền hạn pháp lý.

Bohra cho rằng ngành cần một chuẩn giao tiếp chung giữa các tác nhân. Ông đồng thời thừa nhận thị trường hiện còn xa mục tiêu ấy. Thay vì cho một tác nhân từ công ty A đi sâu vào hệ thống của công ty B như một chương trình lạ, State Street đang hình dung một cổng trao đổi được kiểm soát, nơi dữ liệu đi qua các quy tắc xác thực và giới hạn truy cập.

Trong thiết kế này, mỗi tác nhân cần một danh tính xác định trước và chỉ có những quyền cần thiết cho khách hàng cũng như quy trình tương ứng. Đó là nguyên tắc cấp quyền tối thiểu quen thuộc trong an ninh mạng, nhưng nay phải áp dụng cho phần mềm có thể lập kế hoạch và hành động. Mỗi yêu cầu nên được ghi vết, giám sát và có thể thu hồi khi xuất hiện bất thường.

AI agent có thể diễn giải sai chỉ dẫn, lấy dữ liệu không phù hợp, tin vào nội dung bị thao túng hoặc lặp lại lỗi của một tác nhân khác. Khi nhiều tổ chức kết nối, tác động dây chuyền trở nên đáng lo hơn: một quyền cấp quá rộng hoặc một đầu vào giả mạo có thể ảnh hưởng đến nhiều khâu trước khi con người kịp nhận ra.

Vì vậy, sự thận trọng mà State Street nhấn mạnh không phải lời kêu gọi trì hoãn đổi mới. Nó gợi ra cách triển khai từng bước: khoanh vùng chức năng, thử nghiệm trong môi trường riêng, kiểm tra độc lập, yêu cầu phê chuẩn của con người với quyết định trọng yếu và chuẩn bị cơ chế ngắt khẩn cấp. Công khai trách nhiệm cũng quan trọng không kém chất lượng thuật toán.

Các tổ chức tài chính có nghĩa vụ giữ bí mật khách hàng và duy trì hoạt động ngay cả khi một công cụ gặp lỗi. Những nguyên tắc đó vẫn tồn tại khi người thao tác trên màn hình không phải nhân viên mà là phần mềm tự động. Câu hỏi thực chất là làm sao biến năng lực mới thành một hạ tầng đáng tin, chứ không phải chỉ thành cuộc chạy đua số lượng dự án.

Tại hội nghị do Cơ quan Tiền tệ Hong Kong tổ chức, khoảng 280 lãnh đạo tài chính, trong đó có khoảng 120 chủ tịch và tổng giám đốc, thảo luận về những biến động của thị trường và công nghệ. Chủ đề “Rethinking the Playbook” phản ánh nhu cầu thiết kế lại phương thức vận hành, thay vì đơn giản đưa công cụ mới vào các quy trình cũ.

Phát biểu tại sự kiện, quan chức tài chính Hong Kong Paul Chan nhận định sự khác biệt trong tương lai không nằm ở chỗ doanh nghiệp có AI hay không, mà ở cách họ tổ chức lại hoạt động quanh công nghệ ấy. Nhận định này bổ sung một góc nhìn cho State Street: mô hình mới chỉ bền vững khi quản trị dữ liệu, trách nhiệm tổ chức và sự tin tưởng của khách hàng cùng phát triển.

Các nhà băng có thể sớm sử dụng AI như một lớp kết nối giữa hồ sơ, con người và dịch vụ. Nhưng việc tác nhân giao tiếp xuyên biên giới còn đòi hỏi thống nhất tiêu chuẩn, bảo vệ dữ liệu và cơ chế xử lý tranh chấp. Trong tài chính, một giao dịch diễn ra nhanh chỉ thực sự tiến bộ khi người dùng biết nó được phép, được bảo vệ và có thể kiểm tra.