TikTok cho biết, các nội dung trên nền tảng được tạo ra bởi trí tuệ nhân tạo (AI) phải được dán nhãn đặc biệt để người xem có thể phân biệt các nội dung giả tưởng và nội dung thật.
Matt Navarra - chuyên gia về mạng xã hội đã chia sẻ trên X về việc TikTok đã thêm tính năng cho phép người dùng dán nhãn "tạo bởi AI" trước khi đăng tải nội dung. Đồng thời, TikTok cũng đe dọa sẽ gỡ bài đăng nếu nội dung không được dán nhãn đúng.
Cụ thể, người dùng trước khi đăng tải video, hình ảnh lên TikTok sẽ được tính năng mới hỏi nội dung này có phải "AI-generated content" (Nội dung tạo bởi AI) hay không. Người dùng sẽ phải chọn có bật tính năng dán nhãn nội dung do AI tạo ra hay không. Nếu người dùng không bật tính năng, một thông báo sẽ hiện ra nhắc nhở người dùng cân nhắc dán nhãn "tạo bởi AI" cho nội dung.
Trước đó vào tháng 3, TikTok đã cập nhật chính sách nội dung của mình để yêu cầu người dùng chú thích nội dung deepfakes, do AI tạo trong phụ đề video hoặc sử dụng nhãn dán nhận dạng.
Hiện tại, tính năng này đang trong giai đoạn phát triển và mới chỉ được thử nghiệm trên một số lượng nhỏ người dùng.
Theo Nguyên tắc cộng đồng của TikTok, nội dung AI không bị cấm trên nền tảng, miễn là người dùng phải chú thích rằng nội dung mà họ tạo ra có hỗ trợ bởi công nghệ trên. Tuy nhiên, nền tảng không khuyến khích việc đăng nội dung và video deepfakes, đặc biệt là có liên quan đến các nhân vật trong thế giới thực được tạo ra để đánh lừa công chúng.
Sự trỗi dậy của AI bên cạnh vô số những giá trị mà nó có thể mang lại thì cũng tạo ra không ít các hệ luỵ. Một trong những điều này là nạn tin giả, hình ảnh giả mạo hay cả những hình ảnh mạo danh do AI tạo ra với mục đích xấu.
Với các nền tảng mạng xã hội, khi đây hiện là “điểm đến hàng đầu” của những kẻ lừa đảo, nhờ vào sự hỗ trợ của các công nghệ AI, điều này càng trở nên thách thức hơn bao giờ hết.
Mới đây, mạng xã hội Instagram cũng đang thử nghiệm tính năng mới cho phép người dùng nhận diện những hình ảnh do AI tạo ra hoặc hình ảnh có sự can thiệp của AI.
Điều này có nghĩa là bất cứ khi nào người dùng nhìn thấy một hình ảnh do AI tạo ra, họ sẽ được thông báo rằng hình ảnh đó không phải do con người tạo ra. Mục đích chính của thông báo này là để ngăn chặn sự lừa đảo, cảnh báo các chiến dịch quảng cáo không sử dụng hình ảnh thật và vô số những chiêu trò gian lận khác trên mạng xã hội.
Quyết định gắn cờ những nội dung do AI tạo ra của Meta được xem là một bước tích cực hướng tới việc bảo vệ người dùng trên mạng xã hội.
Minh Hằng (t/h)
