Một báo cáo của KPMG về cách doanh nghiệp toàn cầu ứng dụng trí tuệ nhân tạo (AI) bị phát hiện đã thổi phồng mức độ triển khai công nghệ này thông qua một loạt nghiên cứu tình huống không chính xác, làm dấy lên thêm lo ngại về hiện tượng “ảo giác AI” trong các ấn phẩm tư vấn chuyên nghiệp.
Trong bản báo cáo với tiêu đề “Định nghĩa lại sự xuất sắc trong kỷ nguyên AI tác nhân”, KPMG đưa ra nhiều nhận định sai lệch về việc sử dụng AI tại một số tổ chức lớn, trong đó có ngân hàng UBS của Thụy Sĩ, Dịch vụ Y tế Quốc gia Anh (NHS), Đường sắt Liên bang Thụy Sĩ và Cơ quan Giao thông Vận tải London.
Theo Financial Times, các thông tin sai lệch này được nhóm nghiên cứu GPTZero xác định là biểu hiện của “ảo giác AI”. Sau khi được cảnh báo, UBS cho biết sẽ yêu cầu KPMG gỡ bỏ các nội dung không đúng sự thật. Đến ngày thứ Năm, hãng kiểm toán thuộc nhóm Big Four đã rút báo cáo khỏi một số trang web của mình.
Đây là diễn biến mới nhất trong chuỗi sự cố liên quan đến nội dung do AI tạo ra trong các báo cáo của ngành dịch vụ chuyên nghiệp. Trước đó, EY cũng đã rút lại một nghiên cứu sau khi GPTZero phát hiện các chú thích giả và nhiều lỗi nội dung khác.
Trong một ví dụ, báo cáo của KPMG cho rằng UBS đã “tích hợp các tác nhân AI vào hoạt động tư vấn đầu tư, quản lý rủi ro và giám sát tuân thủ”. KPMG viết rằng các tác nhân này vận hành trên một nền tảng có khả năng kết hợp, được phát triển cùng Microsoft, qua đó hỗ trợ cá nhân hóa hành trình tài chính, nâng hiệu quả hoạt động và bảo đảm tuân thủ quy định. Tuy nhiên, người phát ngôn của UBS khẳng định với tờ Financial Times rằng những mô tả trên là “không chính xác”.
Báo cáo cũng nêu, hãng Đường sắt Liên bang Thụy Sĩ đang triển khai các tác nhân AI hỗ trợ hành khách lập kế hoạch, đặt vé và tối ưu hóa hành trình theo sở thích, điều kiện thời gian thực cũng như tác động carbon, từ đó đưa SBB trở thành một nhà điều phối giao thông toàn diện. Phía doanh nghiệp đường sắt sau đó xác nhận nhận định này là “không chính xác”.
Một trường hợp khác, KPMG cho rằng Cơ quan Giao thông Vận tải London sử dụng AI tác nhân để dự báo và điều phối tình trạng ùn tắc, cá nhân hóa thông tin cho hành khách và phối hợp vận tải đa phương thức. Tuy nhiên, đại diện cơ quan này cho rằng cách mô tả trên mang tính “gây hiểu lầm”.
Báo cáo của KPMG đồng thời khẳng định NHS Greater Manchester sử dụng các tác nhân AI để dự đoán khả năng tái nhập viện, phân loại bệnh nhân và tự động chuyển tuyến. Tuy nhiên, theo người phát ngôn của đơn vị này, nội dung đó “không thực sự phù hợp” với thông cáo báo chí mà KPMG dường như đã sử dụng làm cơ sở tham chiếu.
Các chú thích cho thấy tuyên bố nói trên xuất phát từ một thông cáo báo chí về công cụ AI hỗ trợ chống ung thư phổi. Tuy nhiên, tài liệu gốc không hề đề cập đến việc AI tác nhân thực hiện những chức năng như KPMG mô tả.
Phản hồi về vụ việc, người phát ngôn của KPMG International cho biết doanh nghiệp “coi trọng tính chính xác và tính toàn vẹn của các nội dung đã công bố”, đồng thời xác nhận báo cáo đã được gỡ khỏi các trang web liên quan trong thời gian tiến hành rà soát.
Theo KPMG, doanh nghiệp yêu cầu toàn bộ nhân sự tuân thủ các nguyên tắc sử dụng AI có trách nhiệm, bao gồm việc phải có giám sát của con người để xác thực nội dung và kiểm chứng nguồn độc lập.
Ông Edward Tian, Giám đốc điều hành GPTZero, nhận định các ấn phẩm chứa nhiều sai sót của nhóm Big Four đang “làm ô nhiễm nguồn thông tin”. Theo nghiên cứu của GPTZero, các kết luận từ báo cáo của KPMG đã được nhiều ấn phẩm chuyên ngành trích dẫn, cùng với một tờ báo lớn tại Cộng hòa Séc. Theo ông, các hãng tư vấn lớn như KPMG hay EY vốn được xem là nguồn tham chiếu có độ tin cậy cao, do đó việc các đơn vị này sử dụng thông tin sai có thể làm gia tăng nguy cơ “ảo giác gián tiếp” trên diện rộng.
Trong bối cảnh nhu cầu tư vấn AI gia tăng, các công ty như KPMG đang tích cực chào bán dịch vụ cho khách hàng doanh nghiệp với vai trò cố vấn về chiến lược ứng dụng AI, bao gồm cả khía cạnh sử dụng công nghệ có trách nhiệm và xây dựng chính sách hạn chế sai sót. Những năm gần đây, nhóm doanh nghiệp này đã công bố hàng trăm bài viết mang tính “lãnh đạo tư tưởng” nhằm thu hút khách hàng.
Riêng bài viết “Định nghĩa lại sự xuất sắc trong kỷ nguyên AI tác nhân” đã được các bộ phận tư vấn của KPMG phát hành tại nhiều quốc gia, kèm theo thông tin liên hệ tiếp thị tại từng thị trường.
Vấn đề “ảo giác AI” hiện ngày càng trở nên đáng lo ngại trong lĩnh vực dịch vụ chuyên nghiệp. Tháng 4 vừa qua, hãng luật Sullivan & Cromwell cũng thừa nhận một hồ sơ nộp trong vụ phá sản có chứa nhiều nội dung sai lệch do AI tạo ra, bao gồm cả việc diễn giải sai luật phá sản của Mỹ.
