Đã có một thời kỳ chúng ta có thể tin tưởng những gì chúng ta thấy được trong ảnh và video là có thật. Ngay cả khi công nghệ chỉnh sửa hình ảnh Photoshop trở nên phổ biến, vẫn có thể xác định được đâu là hình ảnh chỉnh sửa, đâu là bản gốc.
Với sự tiến bộ của AI, thế giới đang ngày càng trở nên nhân tạo. Ảnh: Adobe Stocks.
Giờ đây, với những tiến bộ của trí tuệ nhân tạo (AI), thế giới đang ngày càng trở nên nhân tạo hơn và bạn không thể chắc chắn những gì bạn nhìn thấy hoặc nghe thấy là có thật hay là sự “sáng tạo” của AI và máy học.
Trong nhiều trường hợp, AI được sử dụng cho mục đích tốt như phát thanh viên AI, nhân vật AI trong Hollywood, nhưng bây giờ công nghệ này cũng có thể được sử dụng nhằm mục đích đánh lừa, giả mạo hình ảnh...
Theo Forbes, Hollywood là một địa chỉ đang ứng dụng AI trong nhiều hoạt động. Cụ thể là hỗ trợ viết kịch bản sản xuất phim.
Với sự phát triển của máy học, các thuật toán có thể sắp xếp thông qua số lượng dữ liệu lớn về yếu tố nào có khả năng làm cho bộ phim đoạt giải thưởng, thành công thương mại hoặc phổ biến hơn với người xem, từ đó hỗ trợ cho ra những kịch bản phim hiệu quả nhất...
Sự phát triển của AI cũng cho phép tạo ra giọng nói nhân tạo dành cho những người bị khiếm thính, không có khả năng nói hoặc mất khả năng phát âm. Bằng các đoạn âm thanh máy học có thể tổ hợp, bắt chước giọng nói của một người nào đó (có vần điệu và ngữ âm chứ không đơn thuần, vô cảm như âm robot trước đây), khiến làm mờ ranh giới giữa thật và giả.
Phát thanh viên AI của Đài truyền hình Tân Hoa xã, Trung Quốc được sử dụng để thực hiện các bản tin ngắn, đã không còn quá xa lạ với nhiều người.
Tuy nhiên theo Tạp chí công nghệ The Verge nhận định, bên cạnh những ích lợi, điều này cũng có thể bị lạm dụng trong nhiều trường hợp lừa đảo qua giọng nói.
Sự ra đời của nội dung thông minh hoặc được cá nhân hóa là hai mặt. Nội dung thông minh là khi nội dung tự thay đổi dựa trên người đang xem, đọc hoặc nghe như Google, Netflix, TikTok... đang ứng dụng
Hình ảnh và video giả mạo có thể gây nguy hiểm
Cùng với việc con người quen với các công cụ tìm kiếm và đề xuất của AI cung cấp ý tưởng dựa trên dữ liệu của chính họ, các nền tảng nói chung hay AI nói riêng sẽ khiến con người ngày càng thụ động tiếp nhận và trải nghiệm theo cách AI "muốn".
Hình ảnh những người không có thực có AI xây dựng nên. Ảnh: Nvidia.
Thêm vào đó, việc Tập đoàn NVIDIA đã đưa ra hàng loạt hình ảnh khuôn mặt, con người không hề tồn tại được tạo dựng bởi AI, từ đó tạo nên các video "giả lập" từ những nhân vật không có thực đó.
Theo The Verge, điều đáng nói là, dù có một vài dấu hiệu nhận biết một số khuôn mặt người được tạo ra là nhân tạo, tuy nhiên, không ít trong số đó cực kỳ thuyết phục. Khi kết hợp hình ảnh giả lập và giọng nói do AI tạo dựng, những video chân thực đến mức thật khó có thể phát hiện ra đời.
Mới nhất là “Deepfake” công nghệ sử dụng âm thanh và video máy tính AI đã tạo ra một đoạn clip hoàn toàn không có thực, trong đó nhân vật chính là ngôi sao điện ảnh Scarlett Johansson và một số nhân vật đáng chú ý khác.
Ngoài nguy cơ sự xuyên tạc, gây thiệt hại cho các cá nhân, một số nhà lập pháp tại châu Âu cũng lo ngại về thông tin sai lệch mà công nghệ này có thể lan truyền trên internet.
Fobes cho rằng, sự lừa dối này có thể có hậu quả tiêu cực đối với an ninh quốc gia và trong các cuộc bầu cử bên cạnh việc gây ảnh hưởng đến danh tiếng cá nhân.
Khi AI tiếp tục trở nên tinh vi hơn, sẽ càng trở nên khó khăn hơn để xác định giữa cái gì là thật và cái gì là nhân tạo. Hậu quả là con người sẽ khó có thể thẩm định được thông tin là "giả mạo" cho dù nó được truyền tải bằng văn bản, hình ảnh, âm thanh hoặc thậm chí video.
Khi đó, khái niệm "mắt thấy, tai nghe để tin tưởng" sẽ trở nên vô nghĩa.
Trần Anh
Theo The Verge, Forbes
