Meta đẩy mạnh ứng dụng AI trong kiểm duyệt nội dung, hướng tới tự động hóa phần lớn quy trình

AI dần thay thế con người trong hoạt động kiểm duyệt

Theo Financial Times ngày 25/6, Meta đang tăng tốc triển khai các mô hình ngôn ngữ lớn (LLM) để kiểm duyệt nội dung và quảng cáo trên các nền tảng của mình. Động thái này được kỳ vọng có thể giúp công ty tiết kiệm hàng tỷ USD chi phí vận hành mỗi năm.

Hiện Meta đã thay thế khoảng 50% khối lượng công việc kiểm duyệt trước đây do con người xử lý bằng AI và đặt mục tiêu nâng tỷ lệ này lên cao hơn đáng kể vào cuối năm nay. Với một số nhóm nội dung, AI có thể đảm nhiệm hơn 90% khối lượng công việc.

Meta đẩy mạnh ứng dụng AI trong kiểm duyệt nội dung, hướng tới tự động hóa phần lớn quy trình

Trong nhiều năm, Meta kết hợp các hệ thống tự động với đội ngũ kiểm duyệt viên và các đối tác thuê ngoài để đánh giá bài đăng hoặc quảng cáo có vi phạm tiêu chuẩn cộng đồng hay không. Các đơn kháng nghị từ người dùng cũng chủ yếu do con người xử lý.

Meta khẳng định việc mở rộng vai trò của AI không nhằm cắt giảm chi phí mà xuất phát từ sự tiến bộ của công nghệ. Theo kết quả thử nghiệm từ tháng 3/2026, các mô hình ngôn ngữ lớn mắc ít hơn khoảng 13% sai sót so với con người trong quá trình thực thi chính sách, đồng thời phát hiện thêm khoảng 10% trường hợp vi phạm thực sự.

Công ty cho biết chỉ triển khai các hệ thống AI khi đánh giá chúng hoạt động hiệu quả hơn các phương thức kiểm duyệt hiện có. Động thái này diễn ra trong bối cảnh CEO Mark Zuckerberg đầu tư hàng chục tỷ USD để theo đuổi tham vọng xây dựng "siêu trí tuệ cá nhân" (personal superintelligence). Bên cạnh kiểm duyệt nội dung, Meta cũng mở rộng việc sử dụng AI trong nhiều quy trình nội bộ, trong đó có hỗ trợ lập trình.

Theo Financial Times, Meta trước đây chủ yếu sử dụng mô hình Gemini của Google cho hoạt động kiểm duyệt và hỗ trợ khách hàng. Tuy nhiên, công ty gần đây đã yêu cầu nhân viên chuyển sang sử dụng Muse Spark - mô hình nền tảng do chính Meta phát triển.

Lo ngại về độ chính xác và tính minh bạch của AI

Meta cho rằng các mô hình ngôn ngữ lớn có khả năng xử lý tốt hơn những trường hợp phức tạp như nội dung châm biếm, ngôn ngữ mang tính ngữ cảnh hoặc các cách diễn đạt liên tục thay đổi. Công nghệ này cũng giúp mở rộng phạm vi kiểm duyệt trên nhiều ngôn ngữ và rút ngắn thời gian xử lý vi phạm.

Tuy nhiên, quá trình chuyển đổi cũng làm dấy lên nhiều lo ngại trong nội bộ công ty. Một số nhân viên cho rằng Meta đang triển khai AI quá nhanh trong khi công nghệ này vẫn tồn tại nhiều sai sót và chưa có cơ chế giám sát đủ chặt chẽ.

Theo Financial Times, AI của Meta vẫn thường xuyên mắc lỗi, trong đó có việc gỡ bỏ hoặc hạn chế tương tác đối với những nội dung hoàn toàn không vi phạm, khiến các bài đăng không còn được hệ thống đề xuất tới người dùng. Một số nguồn tin cũng cho rằng Meta chưa xây dựng được bộ tiêu chí đầy đủ để đánh giá hiệu quả của hệ thống AI, dù công ty bác bỏ nhận định này.

Một cựu nhân viên Meta cho biết công ty đã tận dụng lượng lớn dữ liệu từ các quyết định xử lý kháng nghị trước đây để huấn luyện AI, đồng thời vẫn duy trì việc kiểm tra ngẫu nhiên một phần kết quả bằng con người nhằm đánh giá độ chính xác của hệ thống.

Việc mở rộng AI đặc biệt nhạy cảm trong lĩnh vực quảng cáo, khi Meta vẫn chịu áp lực vì tình trạng quảng cáo lừa đảo trên các nền tảng của mình. Theo truyền thông quốc tế, khoảng 10% doanh thu quảng cáo của Meta trong năm 2024, tương đương khoảng 16 tỷ USD, đến từ các quảng cáo liên quan đến lừa đảo hoặc hàng hóa bị cấm.

Gần đây, hàng chục nghìn tài khoản Instagram cũng bị tin tặc chiếm quyền kiểm soát sau khi lợi dụng chatbot hỗ trợ khách hàng tích hợp AI của Meta, làm dấy lên thêm những lo ngại về mức độ sẵn sàng của AI trong các hoạt động cốt lõi của tập đoàn. Trong bối cảnh Meta tiếp tục mở rộng tự động hóa bằng AI, bài toán đặt ra không chỉ là công nghệ có thể thay thế con người đến đâu, mà còn là cách bảo đảm độ chính xác, tính minh bạch và trách nhiệm trong quá trình kiểm duyệt nội dung trên quy mô hàng tỷ người dùng.