Nvidia ra mắt Project Digits: Siêu máy tính AI

CEO Nvidia Jensen Huang đang cầm máy tính Project Digits trên sân khấu tại buổi họp báo CES 2025 của Nvidia.

Tại CES 2025, Nvidia giới thiệu Project Digits, một siêu máy tính AI cá nhân được thiết kế để đặt gọn trên bàn làm việc, dự kiến ra mắt vào tháng 5 năm nay. Trái tim của Project Digits là chip GB10 Grace Blackwell Superchip, mang lại sức mạnh xử lý vượt trội cho các mô hình AI phức tạp, nhưng chỉ cần một ổ cắm điện tiêu chuẩn để hoạt động.

Chip GB10 gồm lõi Cuda thế hệ mới của Nvidia và lõi Tensor thế hệ thứ năm, được kết nối qua NVLink-C2C với CPU Grace chứa 20 lõi Arm tiết kiệm điện năng. Nvidia đã bắt tay MediaTek hợp tác phát triển GB10 để tối ưu hóa hiệu suất hoạt động và hiệu suất năng lượng

Mỗi hệ thống Project Digits được trang bị "bộ nhớ thống nhất" 128 GB, cao hơn nhiều so với mức RAM 16-32 GB trên các mẫu máy tính xách tay, kết hợp bộ nhớ NVMe đến 4 TB. Toàn bộ gói gọn trong kích thước tương đương một chiếc Mac mini đặt trên bàn làm việc, có thể xử lý mô hình AI với tối đa 200 tỷ tham số.

Đối với mô hình AI đòi hỏi khắt khe hơn, hai hệ thống Project Digits có thể được liên kết với nhau để xử lý 405 tỷ tham số, chẳng hạn mô hình tốt nhất của Meta, Llama 3.1 405B, có 405 tỷ tham số. Máy chạy điện lưới dân dụng thông thường thay vì các hệ thống lớn trước đây "ngốn" nhiều điện năng.

Project Digits trông giống một chiếc PC mini. Ảnh: Nvidia

CEO của Nvidia Jensen Huang cho biết trong một thông cáo báo chí về tầm quan trọng của Project Digits: “AI sẽ trở thành xu hướng chính trong mọi ứng dụng cho mọi ngành công nghiệp. Với Project Digits, Grace Blackwell Superchip sẽ đến với hàng triệu nhà phát triển. Việc đặt một siêu máy tính AI trên bàn làm việc của mọi nhà khoa học dữ liệu, nhà nghiên cứu AI và sinh viên sẽ trao quyền cho họ tham gia và định hình kỷ nguyên AI”.

Trên Project Digits, người dùng cũng sẽ truy cập vào thư viện phần mềm AI của Nvidia, gồm bộ công cụ phát triển, điều phối và các mô hình được đào tạo trước có sẵn thông qua danh mục NGC. Hệ thống chạy trên nền tảng DGX OS dựa trên Linux, hỗ trợ PyTorch, Python và Jupyter notebook.

Các nhà phát triển có thể tinh chỉnh mô hình AI thông qua nền tảng Nvidia NeMo, đồng thời tăng tốc các quy trình xử lý dữ liệu nhờ thư viện Nvidia RAPIDS. Ngoài ra, Project Digits cho phép người dùng phát triển và thử nghiệm mô hình AI trực tiếp trên máy, sau đó triển khai lên các dịch vụ đám mây hoặc hạ tầng trung tâm dữ liệu mà không cần thay đổi cấu trúc nhờ kiến trúc Grace Blackwell và nền tảng phần mềm Nvidia AI Enterprise.