Ông lớn Big Four dùng AI viết báo cáo, để lộ chú thích giả và dấu vết ChatGPT

PwC vừa bị phát hiện công bố một loạt báo cáo về trí tuệ nhân tạo (AI) và xe điện chứa nhiều chú thích giả mạo, dẫn nguồn sai lệch và thông tin không thể kiểm chứng. Vụ việc trở thành ví dụ mới nhất cho thấy rủi ro khi một công ty thuộc nhóm Big Four sử dụng nội dung do AI tạo ra một cách cẩu thả.

Báo cáo của hãng kiểm toán PwC bị phát hiện lạm dụng AI

Theo điều tra của các nhà nghiên cứu tại GPTZero và được Financial Times xác nhận ngày 29/7, những “ảo giác” do AI tạo ra xuất hiện trong các báo cáo dạng “lãnh đạo tư tưởng” — loại tài liệu thường được các hãng tư vấn sử dụng để thu hút khách hàng, đặc biệt là các đối tác tại Trung Đông.

Phát hiện này có nguy cơ khiến các công ty tư vấn như PwC rơi vào thế khó xử. Đây cũng là những đơn vị đang tích cực quảng bá dịch vụ tư vấn cho doanh nghiệp trong quá trình ứng dụng AI, bao gồm cách triển khai công nghệ một cách có trách nhiệm và xây dựng chính sách nhằm hạn chế sai sót.

Trước đó, các cuộc điều tra của GPTZero từng khiến hai đối thủ Big Four khác là EY và KPMG phải thu hồi những báo cáo bị cho là cũng chứa các lỗi dạng này.

Nhóm nghiên cứu đã xác định bốn báo cáo do PwC Trung Đông phát hành trong hai năm qua có dấu hiệu được viết với sự hỗ trợ đáng kể của AI, trong đó phần chú thích cho thấy nền tảng dẫn nguồn thiếu chắc chắn. Các tài liệu này bao gồm cẩm nang hướng dẫn sử dụng robot AI tự hành trong doanh nghiệp, hướng dẫn cho chính phủ về cải thiện dịch vụ công và dự báo thị trường xe điện, xe tự hành tại khu vực.

Theo GPTZero, nhiều trích dẫn trong các báo cáo này tồn tại vấn đề ở nhiều cấp độ.

Một số liên kết dẫn đến các trang web không chứa bằng chứng như nội dung được trích dẫn, trong khi một số khác trỏ tới các trang không còn tồn tại. Đáng chú ý, một bài báo học thuật về chất lượng không khí tại Riyadh dường như đã được AI tạo ra hoàn toàn, do không có dấu vết của nghiên cứu này trong tạp chí được tham chiếu cũng như trong hồ sơ của các tác giả được nêu tên.

Một số chú thích khác lại dẫn tới những nguồn khá bất thường. Chẳng hạn, một blogger tuổi teen có 280 người theo dõi trên Medium được PwC trích dẫn như nguồn thông tin cho một sáng kiến của JPMorgan mà hãng gọi là “câu chuyện thành công thực tế” về AI có khả năng tác nhân. Trên thực tế, sáng kiến này — trong đó ngân hàng tự động hóa việc rà soát các thỏa thuận cho vay thương mại, tiết kiệm hàng trăm nghìn giờ làm việc của con người — đã được báo cáo lần đầu từ năm 2017, tức 5 năm trước khi ChatGPT mở ra làn sóng AI tạo sinh.

Trao đổi với Financial Times, PwC Trung Đông cho biết họ coi trọng tính chính xác của các nghiên cứu đã công bố và đang cập nhật một số lượng hạn chế các trích dẫn hỗ trợ trong những báo cáo được nêu. Đại diện PwC nói thêm rằng, theo cách tiếp cận của hãng đối với trí tuệ nhân tạo có trách nhiệm, công ty có các quy trình kiểm soát chất lượng cho hoạt động nghiên cứu và phát triển nội dung, đồng thời kỳ vọng tất cả nhân sự đều tuân thủ. Tuy nhiên, PwC không giải thích các lỗi đã xuất hiện trong báo cáo như thế nào.

Trong vài năm qua, các công ty Big Four đã liên tục công bố hàng trăm bài viết mang tính định hướng tư tưởng về AI nhằm thu hút khách hàng, đồng thời khuyến khích nhân viên tự sử dụng công nghệ này để tăng tốc và cải thiện chất lượng công việc.

Theo Paul Esau, nhà nghiên cứu tại GPTZero, cách trích dẫn nguồn hỗn loạn trong bốn báo cáo của PwC Trung Đông là một dấu hiệu điển hình của nội dung nghiên cứu được AI tạo ra. Một ví dụ rõ ràng là tuyên bố “lỗi của con người chịu trách nhiệm cho 90% tai nạn giao thông” xuất hiện ba lần ở các vị trí khác nhau trong cùng một báo cáo: lần đầu có chú thích, lần thứ hai không có chú thích, còn lần thứ ba lại có tới hai chú thích, mỗi chú thích dẫn tới một nguồn khác nhau.

Ông Esau cho rằng tuyên bố này không phải là giả, nhưng việc cùng một thông tin được trích dẫn ba lần trên hai trang bằng ba nguồn khác nhau là điều bất thường.

Một báo cáo khác cũng không trích dẫn đúng các nghiên cứu của chính PwC. Tài liệu này dẫn một khảo sát của PwC với các giám đốc điều hành khu vực Trung Đông, trong đó 70% người được hỏi cho biết AI tạo sinh sẽ tác động đáng kể đến hoạt động kinh doanh của họ. Tuy nhiên, chú thích đi kèm lại dẫn tới một bài viết không hề đề cập đến khảo sát này.

Một chú thích khác tiếp tục làm dấy lên nghi vấn về việc sử dụng AI. URL của một bài viết về các mối đe dọa an ninh mạng đối với ngành năng lượng có chứa chuỗi “utm_source=chatgpt.com”.