Snowflake は Cortex AI Gateway に自動モデル振り分け機能を追加し、エンタープライズはすべてのタスクを1つのモデルに強制するのではなく、品質とコストのバランスが最適なAIモデルにクエリを送信できるようになった。
内部テストでは、シンプルな質問を低コストモデルに振り分けることで、一部のワークロードのトークンコストを最大3倍削減できることが示された。
この動きは業界全体の自動振り分けへのシフトを反映しており、Databricks、AWS、Google Cloud、Nvidia を含む競合企業もすべて同様の機能を発表している。
何が起きたか
Snowflakeの Cortex AI Gateway に動的モデル振り分け機能が追加され、すべてのクエリを1つのモデルに強制するのではなく、各タスクに最も費用対効果の高いモデルを自動選択するようになった。同社の内部テストでは、この機能により一部のワークロードのトークンコストを最大3倍削減できることが示された。
なぜ重要か
大規模でAIエージェントを運用するエンタープライズチームは、シンプルな質問にも高機能で高コストのモデルを使用してしまい、安価なモデルで対応可能な場面でも過剰支出している。Snowflakeの振り分け機能はこの課題に直接対応し、すべてのクエリを同じパイプラインに通すのではなく、各タスクに最適なモデルを自動選択する。
注目点
モデル振り分けは業界標準になりつつあり、Databricks、AWS、Google Cloud、Nvidia もそれぞれ独自版を発表している。Snowflakeが「一部のワークロードで最大3倍のコスト削減」と主張していることは、競合他社が達成すべきベンチマークになるとみられる。
エンタープライズAIの導入により、根本的な非効率が明らかになった：すべてのクエリを1つのモデルで処理することは、シンプルで安価な代替手段で対応可能なタスクに高コストモデルを費やすという無駄を生む。Snowflakeがこの振り分け選択を自動化する動きは、大規模で費用対効果的な言語モデル導入方法についての理解が成熟してきたことを反映している。同社が「一部のワークロードで3倍のコスト削減」と主張している理由は注目に値する。それは非効率性が軽微ではなく、実質的であることを示唆している――エンタープライズは現在、大きく過剰支出している。
Snowflake だけがこの機会を見出しているわけではない。Databricks、AWS、Google Cloud、Nvidia からの同時発表は、市場全体がモデル振り分けをコアインフラストラクチャニーズとして一致認識していることを示している。Snowflake が掲げるコスト削減目標に競合他社が対抗する圧力は、振り分けの精度とスピードの継続的なイノベーションを促進するとみられる。
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できます
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
生物学的変化を予測するAIモデルを開発するAstromechが、2000万ドルの資金調達を実施しました
Anthropicの投資部門Odeが、企業向け人工知能サービスの拡大を目的としてCasper Studiosを買収した
AI企業 Anthropic が月末までのIPO申請を目指しており、非公開の経営幹部らは SpaceX が6月に調達した750億ドル（オーバーアロットメント・オプション実行時は862億ドル）を上回る資金調達を望んでいます
韓国のAIインフラプロバイダーElice Groupが、40℃を超える温水冷却を採用した韓国初のAIデータセンターの立ち上げを発表し、エンタープライズAI変革ソリューションへの事業拡大も進めている
企業向けクレジットカード・経費管理サービスのRampのデータから、OpenAIが米企業ユーザーの市場シェアでAnthropicに追い上げていることが判明しました
OpenAIがChatGPT向けApple Messagesプラグインを公開し、ユーザーがMessagesの受信箱をチャットボットに接続できるようになった
