OpenAI phải chịu khoản chi phí lớn để vận hành công cụ ChatGPT

ChatGPT, một công cụ robot trò chuyện có thể tạo ra các bài viết, câu chuyện, truyện cười, và các đoạn mã code, đã gây chú ý kể từ khi ra mắt vào ngày 30 tháng 11 năm 2022. Nhưng điều mà nhiều người có thể không biết là OpenAI phải mất rất nhiều chi phí để có thể xây dựng và vận hành một công nghệ tiên tiến như vậy.

The Information trích lời ba nguồn tin cho biết, OpenAI lỗ 540 triệu USD năm ngoái. Dù đã ký thỏa thuận hàng tỷ USD trong vài năm với Microsoft vào đầu năm nay, khoản lỗ cho thấy startup đã phải tiêu tốn nhiều như thế nào để triển khai một sản phẩm AI thương mại.

Chi phí phát triển và vận hành ChatGPT chủ yếu do nhu cầu cần năng lực điện toán lớn để giải đáp yêu cầu (prompt) của người dùng. Tháng trước, Dylan Patel – nhà phân tích trưởng của hãng tư vấn SemiAnalysis chia sẻ với The Information rằng, ông tin ChatGPT tiêu tốn của OpenAI khoảng 700.000 USD/ngày xét đến chi phí liên quan tới năng lực điện toán.

Theo trang Insider, Dylan Patel cho biết, việc OpenAI vận hành ChatGPT bây giờ thậm chí còn tốn kém hơn, vì ước tính ban đầu của ông dựa trên mô hình GPT-3.

GPT-4, mô hình mới nhất của OpenAI, thậm chí còn hao tốn tiền bạc hơn để chạy, Dylan Patel nói.

Dylan Patel và Afzal Ahmad, nhà phân tích khác tại SemiAnalysis, cho biết: “Việc đào tạo các mô hình ngôn ngữ lớn của OpenAI có thể tiêu tốn hàng chục triệu USD. Song chi phí vận hành hoặc chi phí suy luận vượt xa chi phí đào tạo khi triển khai một mô hình ngôn ngữ lớn ở bất kỳ quy mô hợp lý nào".

"Trên thực tế, chi phí suy luận của ChatGPT vượt quá chi phí đào tạo hàng tuần", họ nhấn mạnh.

John Hennessy, Chủ tịch Alphabet, trước đây cho biết, chi phí tìm kiếm trên chatbot Bard của Google cao gấp 10 lần một tìm kiếm thông thường.

Dù OpenAI đã củng cố vị thế tài chính với sự hậu thuẫn của Microsoft, nhu cầu ngày càng lớn với chatbot ChatGPT - ứng dụng tiêu dùng phát triển nhanh nhất lịch sử khiến áp lực chi phí ngày một nặng nề. Đầu tuần này, CEO OpenAI Sam Altman ám chỉ chi phí gia tăng, khi nói họ sẽ là “startup cần tập trung nhiều vốn nhất lịch sử Silicon Valley”.

Theo The Information, Altman muốn OpenAI có thể huy động khoảng 100 tỷ USD trong vài năm tới để phát triển trí tuệ tổng hợp nhân tạo (AGI), loại AI mạnh như não người. Các công cụ AI tạo sinh như ChatGPT ngày càng phổ biến trong vài tháng qua khi người dùng phát hiện ra những lợi ích của chúng như tăng năng suất lao động. Các nhà đầu tư cũng bị hấp dẫn bởi triển vọng thay đổi nhiều ngành công nghiệp của công nghệ này.

Nhưng câu hỏi đặt ra lúc này là tại sao việc xây dựng ChatGPT lại đắt đỏ như vậy? Câu trả lời nằm ở sức mạnh tính toán khổng lồ và dung lượng lưu trữ cần thiết để huấn luyện mô hình. ChatGPT được xây dựng trên kiến trúc GPT-3.5, một mô hình ngôn ngữ rất phức tạp, yêu cầu một lượng lớn dữ liệu để đào tạo. OpenAI đã phải thu thập và xử lý hàng triệu tài liệu, bài báo và trang web để tạo tập dữ liệu đào tạo cho ChatGPT. Mô hình này cũng yêu cầu hàng nghìn GPU (đơn vị xử lý đồ họa) để có thể vận hành một cách mượt mà.

Thu Hà (t/h)