OpenAIとBroadcomが、大規模言語モデルの推論（AIが答えを導き出す処理）に特化した新しいチップ「Jalapeño」を発表しました。

要点

• OpenAIとBroadcomが、大規模データセンター向けに大規模言語モデルの推論処理に特化した新型チップ「Jalapeño」を発表しました。

• OpenAIとBroadcomの協力により9ヶ月かけて開発されたこのチップは、従来の汎用チップより推論効率が高いことが初期テストで示されており、クラウド企業のAIインフラ効率化に寄与する可能性があります。

3つのポイント

よくある質問

Jalapeñoチップはいつ利用できるようになりますか？

記事では具体的な利用開始時期は述べられていません。OpenAIは詳細な技術レポートを数ヶ月以内に公表する予定であり、このチップは大規模データセンターへの展開を想定しています。

従来のチップと何が違うのですか？

Jalapeñoは大規模言語モデルの推論に特化して設計されたASICであり、OpenAIの詳細な技術インサイトと将来のロードマップに基づいて開発されました。OpenAIの初期テストでは、このチップが「ワット当たりのパフォーマンスで最先端よりも大幅に優れている」ことが示されています。