AI "bịa" thông tin đang trở thành rủi ro mới với thương hiệu doanh nghiệp

Hiện tượng "ảo giác" (hallucination) từ lâu đã được xem là điểm yếu cố hữu của các mô hình ngôn ngữ lớn (LLM). Do hoạt động dựa trên xác suất dự đoán từ tiếp theo, AI đôi khi tạo ra những thông tin không có thật nhưng lại trình bày với mức độ tự tin cao.

Trong giai đoạn đầu, người dùng thường coi đây là một hạn chế kỹ thuật có thể chấp nhận được. Tuy nhiên, khi AI ngày càng được sử dụng như một công cụ tìm kiếm và tư vấn thông tin, những sai lệch này đang tạo ra hệ lụy lớn hơn nhiều đối với doanh nghiệp.

Các thống kê cho thấy những sai lệch do AI tạo ra đã gây thiệt hại khoảng 67,4 tỷ USD cho doanh nghiệp toàn cầu trong năm 2024. Đáng chú ý, một trong những lĩnh vực chịu ảnh hưởng mạnh nhất hiện nay là quản trị danh tiếng thương hiệu.

Theo báo cáo công bố cuối tháng 6 của Gartner, AI đang làm thay đổi hoàn toàn các nguyên tắc quản lý danh tiếng vốn được doanh nghiệp áp dụng nhiều năm qua.

Theo Gartner (NYSE: IT) đơn vị cung cấp những phân tích chuyên sâu, khách quan về kinh doanh và công nghệ, doanh nghiệp đang phải đối mặt với nhiều dạng thông tin sai lệch do AI tạo ra.

Không chỉ là những mô tả sai về sản phẩm hoặc dịch vụ, AI còn có thể đưa ra các thông tin không chính xác liên quan đến đạo đức kinh doanh, tình hình tài chính, tranh chấp pháp lý hoặc các hoạt động của doanh nghiệp. Trong nhiều trường hợp, AI còn đề xuất nhầm đối thủ cạnh tranh hoặc cung cấp thông tin gây bất lợi cho thương hiệu.

Andrew Frank, Phó Chủ tịch kiêm chuyên gia phân tích cấp cao của Gartner, cho biết hiện tượng này xuất hiện rõ nét kể từ khi các công cụ tìm kiếm tích hợp AI và chatbot trở thành kênh tra cứu phổ biến.

"Chúng tôi ngày càng nhận được nhiều phản ánh từ các thương hiệu, đặc biệt trong bối cảnh doanh nghiệp đang triển khai chiến lược AEO và GEO nhằm tối ưu khả năng xuất hiện trên các nền tảng AI", ông cho biết.

Theo Gartner, ChatGPT và AI Overviews của Google tạo ra thông tin sai lệch về thương hiệu trong khoảng 2% số phản hồi. Tỷ lệ này tưởng chừng nhỏ, nhưng khi hai nền tảng xử lý hàng tỷ truy vấn mỗi ngày, số lượng thông tin sai lệch phát sinh là rất lớn.

Đầu năm nay, nhà báo công nghệ Thomas Germain đã thực hiện một thử nghiệm để chứng minh mức độ dễ bị thao túng của AI.

Ông đăng trên blog cá nhân một bài viết có tiêu đề "Những nhà báo công nghệ giỏi nhất trong việc ăn xúc xích". Nội dung hoàn toàn mang tính châm biếm và không có cơ sở thực tế.

Chỉ sau chưa đầy 24 giờ, ChatGPT, Gemini và AI Overviews của Google đều trích dẫn bài viết này như một nguồn đáng tin cậy, thậm chí khẳng định Thomas Germain là "nhà báo công nghệ giỏi nhất thế giới về ăn xúc xích".

Thử nghiệm này cho thấy AI không chỉ có thể "bịa" thông tin mà còn dễ dàng khuếch đại những nội dung sai lệch được cố tình đưa lên Internet.

80% doanh nghiệp từng đối mặt với thông tin sai lệch

Theo khảo sát của Gartner, gần 80% doanh nghiệp trên thế giới đã trải qua ít nhất một sự cố liên quan đến thông tin sai lệch trong bốn năm gần đây.

Andrew Frank cho rằng các trường hợp AI tạo ra nội dung mang tính phỉ báng đang ngày càng phổ biến, dù phần lớn doanh nghiệp lựa chọn xử lý âm thầm nhằm tránh tạo thêm chú ý.

Điều này khiến rất khó xác định quy mô thực sự của vấn đề.

Một nguy cơ khác là cơ chế quảng cáo tự động có thể vô tình làm tình hình trở nên nghiêm trọng hơn.

Khi AI tạo ra các nội dung tiêu cực khiến lượng tìm kiếm và truy cập tăng mạnh, hệ thống quảng cáo theo thời gian thực có thể tự động mua vị trí quảng cáo trên chính những trang đang lan truyền thông tin sai lệch. Kết quả là doanh nghiệp vô tình chi tiền để khuếch đại cuộc khủng hoảng truyền thông của chính mình.

Theo Gartner, thay vì chỉ phản ứng khi khủng hoảng xảy ra, doanh nghiệp cần xây dựng mô hình Trust Operations (TrustOps) như một phần trong chiến lược quản trị thương hiệu.

Mô hình này gồm ba nhóm giải pháp chính.

Thứ nhất, doanh nghiệp cần kiểm soát các chiến dịch quảng cáo lập trình, hạn chế việc hệ thống tự động phân phối quảng cáo tới những nội dung chứa thông tin sai lệch. Việc chuyển sang cơ chế đối sánh chính xác (Exact Match) cũng giúp giảm nguy cơ quảng cáo xuất hiện bên cạnh các nội dung AI tạo ra từ nguồn dữ liệu không đáng tin cậy.

Thứ hai, Gartner khuyến nghị doanh nghiệp chủ động xây dựng hệ sinh thái nội dung thân thiện với AI. Điều này bao gồm việc xuất bản dữ liệu có cấu trúc (Schema Markup), biểu đồ so sánh, hướng dẫn mua hàng, tài liệu chuyên sâu và các nội dung được tối ưu cho AEO (Answer Engine Optimization) cũng như GEO (Generative Engine Optimization).

Khi nguồn dữ liệu chính thống xuất hiện nhiều hơn, AI có xu hướng ưu tiên trích dẫn các thông tin đáng tin cậy thay vì những nội dung thiếu kiểm chứng.

Thứ ba, doanh nghiệp cần xây dựng quy trình khiếu nại và phối hợp với các nhà phát triển AI để xử lý nhanh các nội dung sai lệch. Gartner cho rằng AI tác nhân (Agentic AI) có thể được sử dụng để tự động phát hiện, đánh giá mức độ ảnh hưởng và gửi yêu cầu chỉnh sửa hoặc gỡ bỏ các thông tin không chính xác.

Theo Andrew Frank, các mô hình AI chắc chắn sẽ tiếp tục cải thiện về khả năng trích dẫn và độ chính xác. Tuy nhiên, cùng lúc đó, những người cố tình phát tán thông tin sai lệch cũng sẽ ngày càng tinh vi hơn.

Điều này đồng nghĩa với việc doanh nghiệp sẽ phải đối mặt với thách thức lớn hơn trong việc kiểm soát những gì AI nói về thương hiệu của mình.

Trong bối cảnh các công cụ AI đang trở thành điểm khởi đầu cho quá trình tìm kiếm thông tin của người tiêu dùng, quản trị danh tiếng không còn chỉ là xử lý truyền thông sau khủng hoảng. Thay vào đó, doanh nghiệp cần chủ động xây dựng hệ thống giám sát, phát hiện và phản hồi thông tin sai lệch theo thời gian thực, đồng thời liên tục cung cấp nguồn dữ liệu chính thống để AI ưu tiên tham chiếu.

Với sự phát triển nhanh của AI tạo sinh, khả năng bảo vệ niềm tin của khách hàng sẽ trở thành một trong những năng lực cạnh tranh quan trọng nhất của doanh nghiệp trong những năm tới.