Snowflake、AIコスト削減とモデル自動選択

AIコストは、複数のエージェントやアプリケーションを導入する組織にとって、事業価値の向上を上回るペースで膨張している。問題は単純だ。多くの企業が、ステータス要約のような単純なタスクでも最上位かつ最高額のモデルに全リクエストを送っている。Snowflakeの答えは二段構え。各リクエストを最小で十分な能力のモデルに振り分け、さらにその選択肢となるモデル群を拡充して、よりコスト効率の高い選択肢を増やすことだ。

ルーティング層はSnowflakeの既存の企業向けガバナンス管理内にあり、管理者が利用可能なモデルを承認し、データ所在地ルールを適用し、すべてのルーティング判断を監査できる。ルーティングロジックを一元管理するため、顧客はアプリケーションを再構築したり、モデルをハードコードしたりする必要がない。新モデルの登場や価格変更に応じてルーティング層が適応する。社内ベンチマークでは、dbtパイプラインで最上位モデルのみを使う場合と比べ、動的ルーティングで最大3倍のトークン効率を達成。エンジニアリングのプルリクエストでは、処理量を維持しながらトークン使用量を約25%削減した。

Snowflakeが追加するオープンモデル、特にデータエンジニアリングベンチマークで74.4%を記録し主要プロプライエタリモデルを上回ったDeepSeek-V4-Flashは、オープンソースがデータチームにとって重要な領域で追いついたことを示している。高品質で効率的なモデルの選択肢が増えれば、ルーティング層がタスクあたりの平均コストを下げやすくなる。実際の利用でルーティング精度が向上し、新モデルが登場するにつれ、効率的なモデルが処理するワークロードの割合は増え、企業のガバナンスは維持され続ける。