Apple đàm phán công nghệ nén AI để đưa mô hình lớn lên iPhone

Apple tìm cách đưa AI mạnh hơn lên iPhone

Apple được cho là đang tiến hành các cuộc đàm phán ban đầu với PrismML - startup AI tại Thung lũng Silicon được tách ra từ Viện Công nghệ California (Caltech) và nhận đầu tư từ Khosla Ventures - nhằm đánh giá công nghệ nén mô hình AI để có thể chạy trực tiếp trên iPhone.

Apple đàm phán công nghệ nén AI để đưa mô hình lớn lên iPhone

Theo PrismML, công ty đã nén thành công mô hình ngôn ngữ mã nguồn mở Qwen với 27 tỷ tham số của Alibaba từ dung lượng khoảng 54 GB xuống còn dưới 4 GB, cho phép toàn bộ 27 tỷ tham số hoạt động trên các thiết bị từ iPhone 15 trở lên.

PrismML cho biết công nghệ của mình giúp giảm nhu cầu bộ nhớ từ 10-15 lần, tăng tốc xử lý 6-8 lần và giảm mức tiêu thụ điện năng 3-6 lần, trong khi hiệu năng tổng thể chỉ giảm ở mức vài phần trăm. Theo công ty, khả năng ghi nhớ dữ liệu bị ảnh hưởng nhiều hơn so với các tác vụ suy luận, toán học và lập trình.

Theo các nguồn tin, Apple đang đánh giá tốc độ xử lý, hiệu quả năng lượng và hiệu năng vận hành trên thiết bị của công nghệ này như một phần trong kế hoạch nâng cấp Siri và mở rộng các tính năng AI xử lý trực tiếp trên iPhone.

AI chạy cục bộ có thể tăng tốc và bảo vệ quyền riêng tư

Việc đưa nhiều tác vụ AI lên xử lý ngay trên thiết bị được kỳ vọng sẽ giúp phản hồi nhanh hơn, đồng thời tăng cường quyền riêng tư khi dữ liệu nhạy cảm không cần gửi lên các máy chủ đám mây.

Ngoài ra, cách tiếp cận này còn giúp giảm phụ thuộc vào hạ tầng điện toán đám mây và cho phép một số tính năng AI vẫn hoạt động ngay cả khi thiết bị không có kết nối Internet.

Các nhà phân tích nhận định công nghệ nén mô hình AI có thể mở đường cho nhiều ứng dụng AI tiên tiến hơn trên iPhone, bao gồm nhiếp ảnh điện toán, tạo video cũng như các công cụ chăm sóc sức khỏe và thể dục xử lý dữ liệu cá nhân.

Tuy nhiên, giới chuyên môn cũng lưu ý những tuyên bố của PrismML vẫn cần được kiểm chứng thông qua các thử nghiệm thực tế trên quy mô lớn, đặc biệt về thời lượng pin, độ ổn định và hiệu suất khi triển khai trên hàng triệu thiết bị.

Nếu công nghệ này đạt hiệu quả như công bố, Apple có thể đẩy nhanh chiến lược AI trên thiết bị, đồng thời tiếp tục phát huy lợi thế về quyền riêng tư và khả năng tối ưu giữa phần cứng với phần mềm.

Các chuyên gia cũng cho rằng bước tiến này có thể chuyển phần lớn quá trình xử lý AI từ các trung tâm dữ liệu sang thiết bị cá nhân. Tuy vậy, điều đó khó có thể làm giảm nhu cầu chung đối với bộ xử lý và chip nhớ khi cuộc đua phát triển AI vẫn tiếp tục tăng tốc.