Lo ngại có thể tạo ra nội dung lừa đảo, thiên vị hoặc lạm dụng, các nhà phát triển OpenAI đã từ chối phát hành hệ thống tự tạo văn bản dựa trên công nghệ AI và thay thế nó bằng một mô hình nhỏ hơn.
Mẫu văn bản do con người và GPT-2 tạo ra.
OpenAI, có trụ sở tại San Francisco là một tổ chức nghiên cứu trí tuệ nhân tạo được hỗ trợ bởi Elon Musk và Peter Thiel. Trong thông báo gần đây, các nhà nghiên cứu OpenAI thừa nhận rằng mô hình ngôn ngữ dựa trên AI GPT-2 có khả năng tạo ra các bài báo sai lệch, mạo danh trực tuyến và tạo ra nội dung có tính lạm dụng hoặc giả mạo để đăng lên phương tiện truyền thông xã hội.
GPT-2 là hệ thống sử dụng AI có khả năng tạo ra các mẫu văn bản, sử dụng dữ liệu được quét từ khoảng 8 triệu trang web và tạo ra nội dung "gần với chất lượng viết của con người".
Mặc dù AI có thể mất vài lần để tạo ra một mẫu văn bản gây thuyết phục, khả năng tự động hóa việc sản xuất nội dung spam hay lừa đảo trong số các rủi ro khác đã khiến các nhà phát triển quyết định chỉ phát hành một mô hình nhỏ hơn của hệ thống này.
"Do lo ngại về các mô hình ngôn ngữ lớn đang được sử dụng sẽ tạo ra ngôn ngữ lừa đảo, sai lệch hoặc lạm dụng có quy mô, chúng tôi chỉ phát hành một phiên bản GPT-2 nhỏ hơn", OpenAI cho biết.
Để chứng minh sự khác biệt giữa các mẫu văn bản được tạo ra bởi con người và GPT-2, các nhà phát triển đã cung cấp một ví dụ về hoạt động của AI:
"Khi được nhắc với các chủ đề có nhiều trong dữ liệu như Brexit, Miley Cyrus, Lord of the Rings,... thì dường như chúng có khả năng tạo ra các mẫu văn bản hợp lý. Và ngược lại, đối với các loại nội dung mang tính kỹ thuật cao hoặc bí mật, mô hình hoạt động kém hơn", các nhà phát triển giải thích.
Hiện nay các ứng dụng của AI trong lĩnh vực an ninh mạng, game, thu thập thông tin tình báo giữa những người khác đã được hỗ trợ bởi các nhà phát triển tư nhân và chính phủ.
Trong số những nỗ lực mới nhất để thúc đẩy nghiên cứu AI, Tổng thống Mỹ Donald Trump đã ban hành lệnh ưu tiên các nỗ lực phát triển trí tuệ nhân tạo. Sáng kiến AI của Mỹ khuyến khích giáo dục tập trung vào AI hơn và kêu gọi truy cập nhiều hơn vào các công cụ dữ liệu và điện toán đám mây cần thiết để xây dựng các hệ thống AI, cũng như hỗ trợ sự hợp tác của chính phủ với các tổ chức học thuật và khu vực tư nhân.
Kiều Trang
