Microsoft phát triển mô hình ngôn ngữ lớn riêng cho AI

Microsoft được cho là đang tự phát triển một mô hình ngôn ngữ lớn riêng cho AI, cạnh tranh với sản phẩm của OpenAI, Google hay Meta.

Theo The Infomation, mô hình ngôn ngữ lớn (LLM) mới nhất của Microsoft có tên MAI-1, chứa 500 tỷ tham số. Mức này lớn hơn mọi LLM mà Microsoft từng phát triển, cao hơn con số 70 tỷ của Meta Llama 3, nhưng thấp hơn so với một nghìn tỷ tham số của OpenAI GPT-4.

Đây cũng là LLM đầu tiên do Microsoft tự phát triển được hé lộ sau thời gian dài sử dụng sản phẩm từ OpenAI, nơi hãng đầu tư hơn 10 tỷ USD trong nhiều năm. Trước đó, Microsoft cùng từng công bố mô hình quy mô nhỏ Phi-3 mini với 3,8 tỷ tham số, phục vụ trong một số dịch vụ như Azure, Hugging Face và Ollama.

Mô hình AI mới đang được giám sát bởi Mustafa Suleyman – Giám đốc điều hành đơn vị Microsoft AI, The Information đưa tin, dẫn lời hai nhân viên Microsoft có hiểu biết về dự án.

Mustafa Suleyman là đồng sáng lập Google DeepMind và cựu Giám đốc điều hành công ty khởi nghiệp về Inflection AI.

Mục đích chính xác của mô hình AI này vẫn chưa được xác định và sẽ phụ thuộc vào hiệu suất hoạt động của nó. Microsoft có thể sẽ giới thiệu sơ lược về mô hình AI mới tại hội nghị dành cho nhà phát triển Build vào cuối tháng 5 này.

Tháng trước, Microsoft đã tung ra một mô hình trí tuệ nhân tạo nhỏ hơn có tên Phi-3-mini nhằm thu hút lượng khách hàng rộng hơn với các tùy chọn tiết kiệm chi phí.

Công ty đã đầu tư hàng tỷ đô la vào OpenAI và triển khai công nghệ của nhà sản xuất ChatGPT trên bộ phần mềm năng suất của mình, cho phép công ty sớm dẫn đầu trong cuộc đua AI tạo sinh.

Theo nguồn tin, Microsoft đã dành một cụm lớn máy chủ được trang bị các bộ xử lý đồ họa của Nvidia cùng với lượng lớn dữ liệu để cải thiện mô hình.

Microsoft hiện là một trong những BigTech đi đầu về AI. Dù không sở hữu mô hình ngôn ngữ lớn nổi tiếng, hãng góp công lớn trong việc thúc đẩy ChatGPT và OpenAI, thông qua thương vụ đầu tư cũng như mối quan hệ với CEO Sam Altman. Chatbot Copilot của Microsoft đang chạy trên GPT-4 Turbo cũng được đánh giá là một trong những chatbot tốt nhất hiện nay.

Phương Anh (T/h)