AIToday
大規模言語モデルAIビジネス・産業THE DECODER掲載日時: 2026年8月25日 22:01

Nvidia Groq 3 LPX、毎秒3400トークンでCerebrasの4倍

LINEで送る
Nvidia Groq 3 LPX、毎秒3400トークンでCerebrasの4倍

3つのポイント

  1. 何が起きたか

    NvidiaはGroq 3 LPX推論アクセラレータを本格生産に移した。Artificial Analysisによる独立ベンチマークでは、オープンモデルのGemma 4 31Bで毎秒3,400トークンを記録し、同モデルで過去最高となった。

  2. なぜ重要か

    Nvidiaはこのチップが毎秒882トークンのCerebrasチップより4倍高速だと主張する。エージェント型AIは多数の推論ステップで膨大なトークンを生成するため、速度は不可欠だ。トークン生成が速ければ、ユーザーが待てる時間内に推論ステップやツール呼び出しを増やせる。国内のAI推論を手掛ける企業は、応答速度の競争が激化する可能性がある。

  3. 注目点

    このベンチマークは実運用の性能を反映していない可能性がある。比較ではチップ数を考慮しておらず、Cerebrasは1〜2個のアクセラレータを使うのに対し、Nvidiaは少なくとも64個必要だ。さらにCerebrasの最新世代CS-4も考慮に入っていない。NebiusはこのチップをToken Factoryを通じて提供する最初のクラウドプロバイダーになる計画で、Groq自身も初期ユーザーだ。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

NvidiaがGroq 3 LPXを生産に移したのは、12月下旬にGroqライセンスを約200億ドルで買収し、創業者のJonathan Ross氏と社長のSunny Madra氏を迎え入れた後のことだ。Groqのプロセッサはトレーニングではなく推論に特化しており、高速なトークン生成が鍵となるエージェント型AIへのNvidiaの注力に合致する。ベンチマーク結果は印象的だが、The Registerが指摘するように、各LPUのメモリがわずか500MBというアーキテクチャ上の制約により、DeepSeek V3のような大規模モデルでは5ラック以上のアクセラレータが必要になる。またCerebrasとの比較ではチップ数や新しいCS-4世代が省略されている。つまり実際の優位性は、特に複雑で大規模な展開では、見出しの数字が示すほど大きくない可能性がある。Nebiusが最初のクラウドプロバイダーとして登場すれば、Nvidiaのエコシステム外でのチップ性能を実践的に試す機会になるだろう。

よくある質問
Groq 3 LPXのメモリ容量はどのくらいですか?
各LPUはわずか500MBのメモリしかなく、Rubin GPUの288GBの576分の1です。
Groq 3 LPXはいつ利用可能になりますか?
Nvidiaは年内に稼働すると述べています。Nebiusが最初のクラウドプロバイダーになる計画です。
なぜベンチマークは決定的でないのですか?
ベンチマークは1ラックに完全に収まるモデルを使っており、チップ数やCerebrasの最新CS-4世代を考慮していません。より大きなモデルではさらに多くのアクセラレータが必要になる可能性があります。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へOlloNi SS1、優しい知能で孤独に対処