OpenAI独自チップ、推論性能でNVIDIA超え

Broadcomと共同開発したOpenAIのJalapeñoは、最初の設計から製造図面までわずか9カ月で完了。SemiAnalysisは、この速さがNVIDIAのCUDAの堀の終焉を示すと指摘する。チップはデコード速度を一致させた場合、電力あたりのトークン処理量が最大104倍に達し、マルチトークン予測などの最適化に依存していないため、さらなる改善余地を残す。ただし、NVIDIAやAMDなどの競合はより大規模なモデルを自社チップでテストしており、Jalapeñoはまだ量産前のサンプルであるという留保点もある。OpenAIのCFOサラ・フライヤー氏は、このチップをNVIDIAやAMDなど既存パートナーとの関係を補完する統合コンピューティング戦略の一環と位置づけ、置き換えるものではないと説明。協力と競争が交錯する構図は、大手各社が相互に買い続けながら独自シリコンを開発する業界全体のトレンドを浮き彫りにしている。