Trong báo cáo công bố ngày 10/6, Hội đồng Ổn định Tài chính (FSB) cho biết các hội đồng quản trị cần chủ động xem xét việc thiết lập các biện pháp bảo vệ nhằm giảm thiểu rủi ro từ AI, đặc biệt là AI tác tử (agentic AI) - nhóm hệ thống có khả năng lập kế hoạch, suy luận và thực hiện nhiệm vụ với mức độ giám sát hạn chế từ con người.
Theo FSB, AI tác tử đã bắt đầu được các công ty tài chính sử dụng trong phát hiện gian lận, chăm sóc khách hàng và các hoạt động hỗ trợ vận hành phía sau.
Dữ liệu từ Trung tâm Tài chính Thay thế Cambridge cho thấy 52% số đơn vị tham gia khảo sát trong lĩnh vực tài chính đang chủ động triển khai AI tác tử. Trong số này, 23% cho biết đã bước vào giai đoạn mở rộng quy mô hoặc chuyển đổi, trong khi 29% vẫn đang thử nghiệm các chức năng liên quan.
Cảnh báo của các cơ quan quản lý và tổ chức xây dựng chuẩn mực quốc tế đối với AI trong tài chính đã gia tăng trong thời gian gần đây, nhất là sau khi xuất hiện những lo ngại mới về an ninh mạng gắn với các mô hình AI có mức độ tự chủ cao.
FSB nhấn mạnh rủi ro từ AI tự động có thể “hiện thực hóa với tốc độ rất nhanh”, bao gồm khả năng phát sinh các hành vi trái phép hoặc bất hợp pháp, vi phạm dữ liệu và làm gián đoạn các hệ thống có kết nối chặt chẽ trong lĩnh vực tài chính.
Theo cơ quan này, thách thức lớn nhất nằm ở khía cạnh giám sát con người. Các tác tử AI có thể thực hiện những hành động đi chệch khỏi mục tiêu ban đầu của doanh nghiệp mà nhân sự không nhận biết kịp thời hoặc không thể can thiệp đủ nhanh.
Để ứng phó, FSB đề xuất một loạt “thực tiễn tốt”, trong đó khuyến nghị các tổ chức tài chính phải xác định rõ ranh giới sử dụng AI và tích hợp sẵn các lớp bảo vệ trong quá trình vận hành. Bộ hướng dẫn hiện chưa mang tính ràng buộc và đang được lấy ý kiến đến ngày 22/7.
Một trong những khuyến nghị đáng chú ý là các công ty cần thiết lập giới hạn rõ ràng đối với những gì AI tác tử được phép thực hiện, đồng thời duy trì cơ chế phê duyệt của con người với các hành động rủi ro cao, như giao dịch tài chính vượt ngưỡng nhất định. FSB cũng cho rằng doanh nghiệp có thể cân nhắc điều chỉnh quy trình kiểm soát và quản trị nhân sự theo hướng xem các hệ thống này như những “nhân viên tổng hợp” trong bộ máy vận hành.
