OpenAIの独自チップJalapeñoが推論性能でNVIDIAを上回った。電力あたりの処理量は最大1.9倍。
まだサンプル段階で出荷前。
SemiAnalysisはCUDAの堀は崩壊した可能性と指摘。
何が起きたか
OpenAIはHot Chips会議で独自推論チップ「Jalapeño」のベンチマーク結果を公表。電力あたりのスループットとトークン遅延でNVIDIAのBlackwellとRubinを上回ったとされる。
なぜ重要か
Jalapeñoは電力あたりのAI処理量が最高1.9倍、遅延が最大3.6倍低減。SemiAnalysisは「CUDAの堀は死んだ可能性がある」と指摘し、AIチップ市場でのNVIDIA支配に挑戦する構えだ。国内のAIチップ調達を検討する企業は、競合品登場による価格競争の余地が生まれる可能性がある。
注目点
Jalapeñoはまだエンジニアリングサンプル段階で、NVIDIAのRubinは出荷中。OpenAIは自社AIモデルを使い9カ月で設計を完了したと主張。SemiAnalysisによると、マルチトークン予測なしでもVera Rubinを出力トークン数で上回る。
Broadcomと共同開発したOpenAIのJalapeñoは、最初の設計から製造図面までわずか9カ月で完了。SemiAnalysisは、この速さがNVIDIAのCUDAの堀の終焉を示すと指摘する。チップはデコード速度を一致させた場合、電力あたりのトークン処理量が最大104倍に達し、マルチトークン予測などの最適化に依存していないため、さらなる改善余地を残す。ただし、NVIDIAやAMDなどの競合はより大規模なモデルを自社チップでテストしており、Jalapeñoはまだ量産前のサンプルであるという留保点もある。OpenAIのCFOサラ・フライヤー氏は、このチップをNVIDIAやAMDなど既存パートナーとの関係を補完する統合コンピューティング戦略の一環と位置づけ、置き換えるものではないと説明。協力と競争が交錯する構図は、大手各社が相互に買い続けながら独自シリコンを開発する業界全体のトレンドを浮き彫りにしている。
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できます
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
