ChatGPT có thể làm OpenAI tiêu tốn hàng trăm nghìn USD mỗi ngày
"Hầu hết chi phí này dựa trên các máy chủ đắt tiền mà OpenAI cần", chuyên gia phân tích Dylan Patel tại Công ty nghiên cứu bán dẫn SemiAnalysis cho biết.
Việc rất nhiều người trên thế giới sử dụng ChatGPT có thể làm OpenAI tiêu tốn hơn 700.000 USD mỗi ngày do cơ sở hạ tầng công nghệ đắt tiền mà chatbot trí tuệ nhân tạo (AI) này chạy trên đó, theo Dylan Patel, chuyên gia phân tích tại công ty nghiên cứu bán dẫn SemiAnalysis.
Lý do vì ChatGPT yêu cầu sức mạnh tính toán khổng lồ để phản hồi yêu cầu của người dùng.
"Hầu hết chi phí này dựa trên các máy chủ đắt tiền mà OpenAI cần", Dylan Patel nói với trang The Information.
Trả lời Business Insider sau đó, Patel cho biết, việc vận hành ChatGPT cần nhiều tiền, và GPT-4 ra mắt tháng trước thậm chí còn tốn kém hơn. Con số 700.000 USD ông ước tính cho ChatGPT dựa trên mô hình GPT-3.
Afzal Ahmad, nhà phân tích khác của SemiAnalysis, đánh giá việc đào tạo mô hình ngôn ngữ lớn có nhiều người dùng như ChatGPT cần chi phí rất lớn, "vượt xa bất kỳ mô hình AI ở quy mô bình thường khác".
OpenAI chưa đưa ra bình luận.
Nếu như đào tạo mô hình ngôn ngữ lớn (LLM) của ChatGPT đã tiêu tốn hàng chục triệu USD, chi phí vận hành hay chi phí suy luận còn lớn hơn nhiều. Nhiều năm nay, các công ty sử dụng mô hình ngôn ngữ của OpenAI đã phải trả số tiền lớn. Chẳng hạn, Nick Walton – CEO startup Latitude tiết lộ chi phí vận hành mô hình cùng với máy chủ Amazon Web Services mỗi tháng khoảng 200.000 USD vào năm 2021. Vì vậy, anh đã chuyển sang nhà cung cấp phần mềm ngôn ngữ khác để giảm một nửa chi phí.
Trong nỗ lực giảm chi phí chạy các mô hình generative AI, Microsoft đang phát triển chip AI có tên Athena, theo trang The Information. Dự án bắt đầu vào năm 2019, diễn ra nhiều năm sau khi Microsoft thực hiện thỏa thuận trị giá 1 tỉ USD với OpenAI, yêu cầu công ty khởi nghiệp có trụ sở ở thành phố San Francisco (Mỹ) chạy các mô hình của mình độc quyền trên máy chủ đám mây Microsoft Azure.
Hai nguyên nhân thúc đẩy Microsoft phát triển chip là: họ nhận ra bị tụt hậu so với Google và Amazon trong lĩnh vực chip; họ tìm kiếm phương án rẻ hơn chip Nvidia. Hơn 300 nhân viên Microsoft đang làm dự án chip và có thể sử dụng nội bộ con chip sớm nhất trong năm sau.
Phương Hà (t/h)
Cùng chuyên mục
Châu Á - Thái Bình Dương dẫn đầu về giao dịch trên thị trường trung tâm dữ liệu
Chính phủ Mỹ thu hồi giấy phép xuất khẩu chip cho gã khổng lồ Huawei
TikTok và công ty mẹ ByteDance đệ đơn kiện Chính phủ Mỹ
Các vụ tấn công nhắm vào các công ty tài chính, chứng khoán tại Việt Nam gia tăng
Apple tiến hành phát triển chip AI dành cho các trung tâm dữ liệu
-
Kiểm soát lạm phát trong bối cảnh khó khăn mới
-
Tổng Giám Đốc FPT Smart Cloud Lê Hồng Việt: AI là một cơ hội lớn cho doanh nghiệp và xã hội
-
Vay ngân hàng mua bất động sản trong giai đoạn lãi suất thấp: Nên hay không?
-
Chuyên gia ‘hiến kế’ để phiên đấu thầu vàng thành công
-
TS. Trần Xuân Lượng: Hành vi người mua nhà đã thay đổi theo phân khúc căn hộ chung cư