Điểm yếu của Nvidia lộ diện trong giai đoạn Inference

Trong nhiều năm, Nvidia gần như độc tôn ở mảng GPU phục vụ huấn luyện các mô hình ngôn ngữ lớn. Tuy nhiên, khi trọng tâm thị trường chuyển sang Inference – giai đoạn AI phản hồi trực tiếp yêu cầu người dùng trên các ứng dụng như ChatGPT hay Codex – hạn chế về độ trễ bắt đầu bộc lộ.

Nguồn tin của Reuters cho biết OpenAI đã bày tỏ sự không hài lòng với một số dòng chip Nvidia từ năm ngoái. Nguyên nhân chính là kiến trúc GPU vẫn phụ thuộc nhiều vào bộ nhớ ngoài, trong khi OpenAI ưu tiên các giải pháp có SRAM tích hợp trực tiếp trên silicon để tối ưu tốc độ phản hồi tức thì, đặc biệt trong các tác vụ lập trình và giao tiếp phần mềm.

OpenAI tìm lối đi khác, Nvidia ra tay “chặn đầu”

Trong bối cảnh đàm phán đầu tư kéo dài bất thường, OpenAI đã đa dạng hóa nguồn cung phần cứng bằng cách ký hợp đồng với AMD và tiếp cận các startup chip chuyên biệt như Cerebras hay Groq.

Động thái này bị xem là cú đánh mạnh vào tham vọng độc tôn của Nvidia. Để đối phó, hãng chip do Jensen Huang** lãnh đạo đã nhanh chóng ký thỏa thuận cấp phép trị giá 20 tỷ USD với Groq, qua đó trực tiếp dập tắt các cuộc thảo luận giữa Groq và OpenAI.

Lợi thế chip tự thiết kế của Google và Anthropic

Sự sốt ruột của OpenAI càng gia tăng khi các đối thủ như Google với Gemini hay Anthropic với Claude đang hưởng lợi lớn từ chip AI tự thiết kế. Những con chip này được tối ưu riêng cho suy luận, mang lại hiệu năng vượt trội so với GPU đa năng.

CEO Sam Altman từng thừa nhận rằng với các mô hình lập trình, tốc độ phản hồi là ưu tiên số một của khách hàng. Vì vậy, OpenAI đã ký thỏa thuận thương mại với Cerebras và đặt mục tiêu để các phần cứng thay thế này đáp ứng khoảng 10% nhu cầu tính toán suy luận trong tương lai.

Cuộc chiến phần nghìn giây quyết định tương lai AI

Dù cả Jensen Huang và Sam Altman đều công khai khẳng định mối quan hệ vẫn “tốt đẹp” trên nền tảng X, các động thái hậu trường cho thấy một thực tế khác. Nvidia đang gấp rút củng cố danh mục công nghệ Inference, trong khi OpenAI quyết tâm không trở thành con tin của bất kỳ nhà cung cấp phần cứng nào, kể cả đối tác cầm trên tay tấm séc 100 tỷ USD.

Cuộc đua AI giờ đây không chỉ là bài toán thuật toán, mà đã trở thành cuộc chiến giành từng phần nghìn giây trong tốc độ xử lý phần cứng – nơi một điểm yếu nhỏ cũng có thể làm lung lay cả đế chế.