AIToday

Google、Gemini専用チップで効率化6~10倍

THE DECODER18時間前
Google、Gemini専用チップで効率化6~10倍

要点

GoogleはGeminiのAIモデルアーキテクチャをハードウェアに直接組み込む専用サーバーチップ「Frozen v2」を開発中で、現在のTPUチップと比べてAI応答の提供で6~10倍の効率化を目指している。2028年から導入開始予定のこのチップは、Googleの社内計算コストを削減し、OpenAIやAnthropicに対する競争力を強化することを狙いとしているが、Geminiのアーキテクチャに特化しているため、商用製品化される可能性は低い。

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  • 何が起きたか

    GoogleはFrozen v2という社内用サーバーチップを開発中で、Geminiのモデルアーキテクチャをシリコンに直接組み込む。このチップは現在のTPUチップと比べて、AI応答の提供で6~10倍の効率化が見込まれ、Googleは2028年から導入予定である。

  • なぜ重要か

    AIの世界では推論コストの最適化が利益率を大きく左右する。Frozen v2はGoogleの社内計算負荷を軽減し、強力なモデルを低コストで運用できる可能性があり、OpenAIやAnthropicに対する競争上の優位性となる可能性がある。Metaおよび外部クラウド顧客にレンタルしているTPUラインとは異なり、Frozen v2はGemini専用に設計されており、商用製品化される可能性は低い。

  • 注目点

    GoogleはGeminiのアーキテクチャのどの部分をチップにハードコーディングするか、まだ決定していない。モデルアーキテクチャを埋め込む設計により、新しい重みを読み込むことができ、単一のGeminiバージョンに固定するという従来のアプローチより柔軟性がある。

詳細

Googleは社内でFrozen v2という専用サーバーチップを開発中で、GeminiのAIモデルアーキテクチャをシリコンに直接組み込む。The Informationが引用した情報源によれば、このチップは現在のTPUチップと比べてAI応答の提供で6~10倍の効率化を実現できる可能性がある。GoogleはFrozen v2を2028年から導入予定で、TPUラインより少ない生産量で運用し、高量産品ではなく専用チップのテストランと見なしている。

Frozen v2の設計思想はGoogleの汎用TPUと根本的に異なる。TPUは多くのモデルで動作し、Metaにレンタルされたり、外部クラウド顧客に提供されたり、Nvidiaの代替案として「TPU@Premises」プログラムで位置付けられたりする一方で、Frozen v2はGemini専用に調整されている。この専門化はGeminiのモデル構造の一部をハードウェアに直接組み込むことで実現される。Frozen v2という名称はAI用語に従うもので、機械学習では「凍結」(フリーズ)パラメータとは、トレーニング中に値が変わらなくなるようにロックされたパラメータを意味する。Frozen v2では、モデルの一部がチップ自体に永続的に凍結され、計算ステップが削減され、応答速度が向上する。

このアプローチが選択された理由は、チップの設計履歴に示されている。元々の概念はGoogle Deepmindのチーフサイエンティストであるジェフ・ディーンから来たとされ、モデルの重み(AIモデルがクエリにどう応答するかを決定する特定の数値設定)をシリコンに直接組み込むことを提案していた。Googleはこのアプローチを廃止した。固定された重みを含むチップは単一のGeminiバージョンでのみ動作し、急速に陳腐化するためである。Frozen v2はより柔軟な道を採用し、モデルアーキテクチャ、つまり基本設計図ではなく調整されたパラメータを組み込む。新しい重みをチップに読み込むことができ、適応性を保持する。ただし、ハードコーディングされるアーキテクチャの正確な量はまだ決定されていない。

Frozen v2はGoogleが同じモデルアーキテクチャを保ち続ける限りにおいてのみ機能するため、外部顧客向けの商用製品となる可能性は低い。代わりに、このチップはGoogleの社内計算枯渇に対処するために設計されている。競争的なAI環境では、推論コストの最適化が利益率をますます決定する。Frozen v2が6~10倍の効率向上を実現できれば、Googleは大きな優位性を得ることができ、強力なモデルを低コストで実行でき、OpenAIおよびAnthropicから市場シェアを奪う可能性がある。この社内効率向上は、外部収益ではなく、Frozen v2プロジェクトの戦略的目標のようである。

背景と解説

Google のFrozen v2は、同社の推論コスト削減を目指すアプリケーション固有チップ設計への戦略的転換を示すものである。このプロジェクトはGoogle DeepmindのチーフサイエンティストであるJeff Deanの提案に起源し、モデルの重みをシリコンに直接組み込むことを当初提案していた。Googleはその後、単一のGeminiバージョンにチップを固定し、急速に陳腐化させるため、このアプローチを放棄した。Frozen v2は調整されたパラメータではなく、モデルアーキテクチャ(基本設計図)のみを組み込むことで、この問題に対処し、新しい重みの読み込みを可能にして柔軟性を保持している。

汎用TPUとFrozen v2の区別は、Googleのチップ戦略における広範な緊張関係を反映している。TPUは複数のモデルと顧客に対応し、Metaおよび外部クラウドクライアントを含むため、Nvidiaインフラの競争代替案として位置付けられている。一方、Frozen v2はGeminiを用いたGoogle社内用途のみに最適化されており、商用販売に不適切である。この設計選択は、Googleが推論コスト削減をAIの利益性にとって重要な手段と見なしていることを示唆している。OpenAIおよびAnthropicとの競争が激化する中、強力なモデルを効率的に実行する能力は直接的に利益率に影響する。Frozen v2が約束された6~10倍の効率向上を達成すれば、Googleはコスト優位性を得ることができ、低価格またはより良い利益率につながる可能性がある。ただし、チップの狭い適用範囲は、Googleの外部TPUビジネスやMetaなどの顧客との関係を再形成しないことを意味する。

よくある質問

Frozen v2はいつ利用可能になるか。
Googleは2028年からFrozen v2の導入開始を計画している。TPUラインと比べて生産量は限定的となる。
GoogleはTPUのように顧客にFrozen v2を販売するか。
いいえ。このチップはGoogleが同じモデルアーキテクチャを保ち続ける限りにおいてのみ機能するため、外部顧客向け製品となる可能性は低い。Frozen v2はGoogleの社内AI計算容量の緩和を目的としている。
Frozen v2はGoogleの既存TPUチップとどう違うか。
多くのモデルに対応するTPUと異なり、Frozen v2はGeminiのモデルアーキテクチャの一部をハードウェアに直接組み込む。これにより計算ステップが削減され、応答速度が向上し、現在のTPUチップと比べてAI応答提供で6~10倍の効率化を実現する。

「大規模言語モデル」の最新ニュースを、毎朝7時にお届けします

AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。

登録無料・30秒で完了・いつでも解除できます

ディスカッション

まだコメントがありません。最初のコメントを投稿しましょう!

ログインして議論に参加

関連記事

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます

毎朝1分、AIの要点だけ。

200媒体以上・Email/LINE/Slack 対応

無料で受け取る →