Phẫn nộ trước hình ảnh khiêu dâm deepfake của Taylor Swift do công nghệ AI tạo ra

Ngày thứ Sáu, những người hâm mộ của Taylor Swift và các chính trị gia đã bày tỏ sự phẫn nộ trước những hình ảnh khiêu dâm giả do trí tuệ nhân tạo (AI) tạo ra, lan truyền trên X và vẫn tồn tại trên các nền tảng khác.

Một hình ảnh của siêu sao Hoa Kỳ đã được xem 47 triệu lần trên X, mạng xã hội Twitter cũ, trước khi bài đăng bị xóa vào hôm thứ Năm. Theo truyền thông Mỹ, bài đăng này đã xuất hiện trên nền tảng này trong khoảng 17 giờ.

Mặc dù hình ảnh khiêu dâm deepfake của những người nổi tiếng không phải là mới, các nhà hoạt động và cơ quan quản lý lo ngại về việc công cụ sử dụng trí tuệ nhân tạo có thể tạo ra lượng lớn nội dung độc hại hoặc có hại không thể kiểm soát. Tuy nhiên, việc nhắm mục tiêu vào Taylor Swift, nghệ sĩ được nghe nhiều thứ hai trên thế giới trên Spotify (sau rapper người Canada Drake), có thể làm sáng tỏ hiện tượng này khi lượng người hâm mộ của cô đang phẫn nộ trước sự phát triển này.

Người có ảnh hưởng Danisha Carter đã viết trên X.

Các nhà phân tích cho biết, X là một trong những nền tảng cung cấp nội dung khiêu dâm lớn nhất thế giới do chính sách của nó về ảnh khoả thân được xem xét lỏng lẻo hơn so với các nền tảng thuộc sở hữu của Meta như Facebook hoặc Instagram.

Điều này đã được chấp nhận bởi Apple và Google, những người làm cổng truy cập cho nội dung trực tuyến, thông qua các nguyên tắc mà họ áp dụng cho cửa hàng ứng dụng của mình trên iPhone và điện thoại thông minh Android.

Trong một tuyên bố, đội ngũ quản lý của X đã cho biết: "Việc đăng hình ảnh khoả thân không có sự đồng thuận (NCN) bị nghiêm cấm trên X và chúng tôi có chính sách không khoan nhượng đối với nội dung đó."

Nền tảng thuộc sở hữu của Elon Musk cũng tuyên bố rằng họ đang "tích cực xóa tất cả các hình ảnh đã được xác định và thực hiện các hành động thích hợp đối với các tài khoản chịu trách nhiệm đăng chúng". Họ cũng "theo dõi chặt chẽ tình hình để đảm bảo rằng mọi vi phạm tiếp theo sẽ được giải quyết ngay lập tức và nội dung sẽ bị xóa".

Đại diện của Taylor Swift hiện vẫn chưa đưa ra bình luận trước yêu cầu.

Yvette Clarke, một nữ nghị sĩ đảng Dân chủ đến từ New York, người đã ủng hộ luật chống lại nội dung khiêu dâm deepfake, đã nói: "Những gì đã xảy ra với Taylor Swift không có gì mới. Trong nhiều năm, phụ nữ đã trở thành mục tiêu của các trò deepfake mà không có sự đồng ý của họ". Bà cũng thêm: "Với những tiến bộ trong lĩnh vực trí tuệ nhân tạo, việc tạo ra các tác phẩm deepfake trở nên dễ dàng và rẻ hơn".

Tom Keane, một nghị sĩ Đảng Cộng hòa, cảnh báo rằng "Công nghệ trí tuệ nhân tạo đang tiến bộ nhanh chóng hơn các rào cản cần thiết. Dù nạn nhân là Taylor Swift hay bất kỳ thanh niên nào trên khắp đất nước chúng ta, chúng ta cần thiết lập các biện pháp bảo vệ để chống lại xu hướng đáng báo động này".

Nhiều trường hợp âm thanh và video deepfake được công bố rộng rãi đã nhắm mục tiêu vào các chính trị gia hoặc người nổi tiếng, trong đó phụ nữ cho đến nay là mục tiêu lớn nhất thông qua các hình ảnh đồ họa, khiêu dâm được tìm thấy dễ dàng trên internet.

Phần mềm tạo hình ảnh đã trở nên rộng rãi và dễ dàng tiếp cận trên web.

Theo nghiên cứu được tạp chí Wired trích dẫn, 113.000 video deepfake đã được tải lên các trang web khiêu dâm phổ biến nhất trong 9 tháng đầu năm 2023. Và nghiên cứu vào năm 2019 từ một công ty khởi nghiệp cho thấy 96% video deepfake trên internet là nội dung khiêu dâm.

Bình Anh t/h