GoogleがGemini搭載チップ開発

Googleはgeminiアイエーモデルを実行する新しいアプローチを採る新型半導体設計に取り組んでいる。推論開始時にモデルパラメータをメモリにロードするのではなく、新型チップはGeminiモデル情報をシリコンに永続的に組み込み（「フリーズ」して）ハードウェア化する。この構造的変更は、冗長なデータ転送を排除し従来のモデル推論に伴う計算オーバーヘッドを削減することで、効率性の向上を実現することを目的としている。この設計の成功は、同社が期待するパフォーマンス改善がチップのテストと展開時に実際に現れるかどうかにかかっている。実現すれば、GoogleはAIにおけるハードウェア・ソフトウェア協設計の強化への道を示し、大規模言語モデル向けカスタムシリコンに対する競合企業のアプローチに影響を与える可能性がある。

この動きは、特定のAIワークロードに最適化されたカスタムシリコンに向かう業界全体のトレンドを反映している。モデル情報をチップに直接組み込むことで、Googleは推論（AIが回答を生成するプロセス）でボトルネックとなるデータ移動とメモリ帯域幅を削減でき、応答速度の高速化と消費電力の削減につながる。このアプローチはGoogleがAIソフトウェアスタックとそれを実行するハードウェアの両方をコントロールする大規模な戦略の一環であり、データセンター運用向けにTPU（テンソル処理ユニット）を開発した方法と同様である。

まだコメントがありません。最初のコメントを投稿しましょう！