OpenAI製チップ、推論性能でNvidia超え

何が起きたか

火曜日のHot Chips会議で、OpenAIは自社開発チップ「Jalapeño」の初のベンチマーク結果を公表した。SemiAnalysisのInferenceXベンチマークでは、現在入手可能な最先端の推論プロセッサ（このテストではNvidiaのBlackwellシステム）を上回る、ユーザー当たりのトークン数とキロワット当たりのスループットを記録した。

なぜ重要か

OpenAIのハードウェア責任者リチャード・ホー氏は、この結果は「最先端に対する非常に大きな性能向上」を示すものであり、電力当たりでより多くのAI処理をこなし、応答もより速く返せることを意味すると述べた。Nvidiaのシステムとの比較が対象である点が注目されるが、同氏はJalapeñoが完全に展開される頃には競争相手がさらに進歩している可能性もあると指摘した。国内のAIサービス利用企業では、応答速度や電力効率の改善が将来的に実現する可能性があるとみられる。

注目点

ホー氏は、Jalapeñoは2026年末に「ごく少量」出荷され、本格的な展開は2027年になると見込む。同チップは、推論のプリフィル段階と通信段階での遅延を最小限に抑えるよう設計されており、OpenAIはこれらの段階がしばしばボトルネックになるとしている。