OpenAIとBroadcomが、大規模データセンター向けに大規模言語モデルの推論処理に特化した新型チップ「Jalapeño」を発表しました。OpenAIとBroadcomの協力により9ヶ月かけて開発されたこのチップは、従来の汎用チップより推論効率が高いことが初期テストで示されており、クラウド企業のAIインフラ効率化に寄与する可能性があります。
こういう要約が、毎朝あなたのメールに届きます。
無料で登録 →何が起きたか
OpenAIとBroadcomが、データセンターでの大規模言語モデルの推論に特化して設計されたASIC（特定用途向け集積回路）「Jalapeño」を共同発表しました。開発には9ヶ月を要しており、OpenAIの研究チームとの協力により、同社の将来のモデルとプロダクトのロードマップに基づいて設計されました。
なぜ重要か
このチップは、現在のデータセンターで使用されている汎用チップよりも、大規模言語モデルの推論に特化したものとして設計されています。OpenAIの初期テストでは「ワット当たりのパフォーマンスが最先端よりも大幅に優れている」ことが示されており、AIインフラの効率化を目指す企業にとって意味のある選択肢になる可能性があります。
注目点
両社はこれを長期プロジェクトの第1世代と位置付けており、チップは時間とともに改善されていくと明言しています。OpenAIはパフォーマンス測定がまだ完了していないと述べており、詳細な技術レポートは数ヶ月以内に公表される予定です。
まだコメントがありません。最初のコメントを投稿しましょう！
ログインして議論に参加
200以上のソースから厳選したAIニュースを毎日無料でお届けします。
無料で始める登録無料・30秒で完了・いつでも解除できます
毎朝5分、AIの要点だけ。
200媒体以上・Email/LINE/Slack 対応
