EmbeddingGemma 2がマルチモーダル化

EmbeddingGemmaは昨年、高品質なテキスト埋め込みの軽量な選択肢として登場し、アプリが消費者向けハードウェア上で直接情報を整理・検索・接続できるようにすることを狙っていた。Google DeepMindによれば、開発者コミュニティの反響は予想を大きく超え、2,000万ダウンロードを突破し、端末上の検索ツールやプライバシー重視の検索パイプラインで使われている。EmbeddingGemma 2はその後継で、Gemma 4アーキテクチャを基に、テキストを超えてコード・画像・動画・音声を共有の埋め込み空間に統合する。

設計上の選択は「ローカルで動く小ささを保つ」という一方向を指している。7億4,000万パラメータを持ちながら、テキスト専用のワークロードでは最小2億7,000万パラメータで済み、任意で視覚（1億7,000万）と音声（3億）のエンコーダを追加できる。Matryoshka表現学習により、開発者は出力ベクトルを768次元から512、256、128次元へ切り詰められ、Googleによればローカルのベクトルデータベースの保存量を最大6倍削減できる。8KトークンのコンテキストウィンドウはEmbeddingGemma 1の4倍で、最大5.5分の音声、29枚の画像、58の動画フレーム、またはそれらの混在した組み合わせを処理できる。

品質面でGoogleは、EmbeddingGemma 2がMTEB CodeやMAEBなどのベンチマークで10億パラメータ未満のマルチモーダル埋め込みモデルの中で首位に立ち、テキスト・視覚・音声の各分野で多くの大規模モデルに匹敵するか上回ると述べている。結果を左右するのは、この「パラメータあたりの品質」という主張が開発者自身のハードウェアでの検証に耐えるかどうか、そしてメモリ値がGoogle自身のPixel 11 Pro以外でも快適な性能につながるかどうかだ。GoogleはGemini Enterprise Agent Platform Model Gardenでの提供が近日中に始まるとしている。