OpenAIとBroadcomが、大規模言語モデルの推論（AIが答えを導き出す処理）に特化した新しいチップ「Jalapeño」を発表しました。

何が起きたか

OpenAIとBroadcomが、データセンターでの大規模言語モデルの推論に特化して設計されたASIC（特定用途向け集積回路）「Jalapeño」を共同発表しました。開発には9ヶ月を要しており、OpenAIの研究チームとの協力により、同社の将来のモデルとプロダクトのロードマップに基づいて設計されました。

なぜ重要か

このチップは、現在のデータセンターで使用されている汎用チップよりも、大規模言語モデルの推論に特化したものとして設計されています。OpenAIの初期テストでは「ワット当たりのパフォーマンスが最先端よりも大幅に優れている」ことが示されており、AIインフラの効率化を目指す企業にとって意味のある選択肢になる可能性があります。

注目点

両社はこれを長期プロジェクトの第1世代と位置付けており、チップは時間とともに改善されていくと明言しています。OpenAIはパフォーマンス測定がまだ完了していないと述べており、詳細な技術レポートは数ヶ月以内に公表される予定です。