
SnowflakeがAIコスト削減のため、品質を維持できる最安モデルにタスクを振り分ける。新ゲートウェイが各リクエストを適切なモデルに自動マッチングし、過剰な費用を回避する。
初期テストではデータパイプラインのトークン効率が3倍に向上し、品質も安定した。
DeepSeek-V4-Flashなどのオープンモデルも追加され、コストと性能の最適解を選べる。
何が起きたか
SnowflakeはCortex AI Gatewayに動的モデルルーティングを導入した。これは各タスクを完了できる最も低コストのモデルを自動選択するもので、新たなオープンモデルDeepSeek-V4-Flash 0731(プライベートプレビュー版)とGLM-5.3(プライベートプレビュー版は近日公開予定)も追加された。社内テストでは、このルーティング方式により、データパイプラインのワークロードで最も高性能なモデルを常時使用した場合と比べ、最大3倍のトークン効率を達成しつつ、同等の品質を維持した。
なぜ重要か
多くのタスクで、組織は必要以上のAI性能にコストを払っている。週次サマリーに、ポートフォリオのリスク分析と同じ推論能力は不要だ。タスクの複雑さとモデルコストを一致させれば、アプリケーションを作り直したり、ルーティングロジックを自前で管理したりせずに、推論コストを削減できる。Snowflakeのアプローチは、オープンモデルを同社のデータガバナンス境界内で実行し、機密データを既存のコンプライアンス管理下に置くことも保証する。国内の企業は、AI運用コストを抑えつつ性能を維持できる道が開かれる可能性がある。
注目点
DeepSeek-V4-Flash 0731は本日からプライベートプレビューで利用可能。GLM-5.3は近日公開予定で、セルフホストも可能になる。Snowflakeの社内ADE-benchテストでは、DeepSeek-V4-Flashは74.4%を記録し、テストされたプロプライエタリモデルを上回った。一方、前世代のGLM-5.2は66%の精度で、ベンチマーク中で最も低いトークン使用量を達成し、高負荷でコスト重視のワークロードに適している。
AIの性能とコストのトレードオフにより、企業は非効率な選択を迫られてきた。すべてのタスクに高性能モデルへ過払いするか、低コストな代替モデルを選ぶカスタムルーティングロジックを構築・維持するかだ。Snowflakeは「インテリジェンス効率」という枠組みで、問いを「全体的に最良のモデルはどれか」ではなく「各タスクに最適なモデルを最低コストでどれにするか」と再定義した。その答えは二つの部分から成る。
第一に、Cortex AI Gatewayの動的モデルルーティングは開発者から負担を取り除く。エンジニアリングチームがモデル選択をハードコードする代わりに、Snowflakeのレイヤーが各リクエストを監視し、自信を持って完了できる最も低コストのオプションを選択する。このシステムは管理者が承認したモデルと既存のデータ配置ルールを尊重するため、リクエストはコンプライアンス境界内に留まる。本文にある通り、ルーティングの決定は新しいモデルが登場し、相対的な能力が変化するにつれて適応する。顧客がアプリケーションを再構築する必要はない。
第二に、高性能なオープンモデルへのアクセス拡大は、ルーターの選択肢を直接向上させる。DeepSeek-V4-Flash 0731はSnowflakeの社内ADE-benchテストで74.4%を記録し、テストされたプロプライエタリなフロンティアモデルを上回った。GLM-5.3の前世代にあたるGLM-5.2は、ベンチマーク対象のどのモデルよりも低いトークン使用量で66%の精度を達成し、高負荷でコスト重視のワークロードに理想的だ。これらのモデルをサードパーティAPI経由ではなく直接ホストすることで、Snowflakeは推論がエンタープライズガバナンス内で実行され、データが既存の管理下に留まることを保証する。これは規制対象の組織にとって大きな利点だ。
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できます
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
AWSは先月、物理AIシステム(実世界を知覚・推論・動作するAI)を構築する顧客向けに、クラウドからエッジまでのソリューションを展開し、デモから実運用への移行を支援している
Nvidiaが出資するHugging Faceは、評価額130億ドル以上での取引を模索しているとされ、買い手の関心を探るため投資銀行を起用した

Adobeの記録によると、2024年7月から2025年2月にかけて、生成AI経由で米小売サイトを訪れるトラフィックが1200%増加した

OpenAIは8月中旬、Google傘下のサイバーセキュリティ企業Wizで社長兼COOを務めていたダリ・ラジッチ氏が、チーフ・レベニュー・オフィサー(CRO)に就任すると発表した

非公開テスト中のAIパーソナルアシスタント「Instinct」が、その能力で評価される一方、利用規約とセキュリティモデルへの批判も浴びている

AWSが、レストランの電話受付を自動化する音声注文システムの構築手順を公開
