AT&TはモデルルーターでAIコストを最大56%削減。
単純なタスクを安価なモデルに振り分け、品質低下は2%のみ。
オープンソースモデルの利用率を40%から60〜70%に引き上げる計画だ。
何が起きたか
AT&TはLiteLLMモデルルーターを導入し、従業員のクエリを適宜より安価なAIモデルに振り分けることで、コーディングやその他の高度なAIタスクのコストを最大56%削減した。AT&Tのバイスプレジデント、マーク・オースティン氏へのインタビューによると、AIのパフォーマンス品質の低下はわずか2%にとどまった。
なぜ重要か
このツールはタスクの複雑さを判断し、単純なタスクをより安価なモデルに送る仕組みだ。このアプローチにより、通信大手はAnthropicやOpenAIのモデルへの支出を横ばいに保ちつつ、NvidiaのNemotron、MetaのLlama、GoogleのGemmaといったオープンソースモデルの利用を拡大できる。AT&Tは今後数年で、従業員クエリに占めるオープンソースモデルの割合を現在の40%から60〜70%に引き上げる目標を掲げている。国内企業がAI利用コストを抑える手段として、モデルルーター導入を検討する可能性がある。
注目点
AT&Tによると、オープンソースモデルの性能は一般的に最先端モデルより6〜10か月遅れているが、その差は縮まっており、旧世代のAnthropicやOpenAIのモデルと「同等かそれ以上」だという。同社は中国企業DeepSeekとMoonshotのオープンソースモデル利用に伴う潜在的リスクを評価中だが、現時点では使用していない。
AT&Tが報告したコスト削減効果は、企業がAI支出の増大に悩む中で注目される。6月の報道では、企業がコスト管理の改善を求める動きが浮き彫りになっていた。チャットボットからより計算集約的なエージェントへの移行や、AIラボが定額制からトークン課金制へ移行したことも、コスト上昇を招いた要因だ。こうした背景から、大企業がAI利用を単純に削減するのではなく、ルーティング技術に投資する理由が見えてくる。
同社の戦略は、コスト削減ルーターとオープンソースモデルへの意欲的なシフトを組み合わせたものだ。オープンソースモデルの性能は最先端モデルより6〜10か月遅れるのが通例だが、オースティン氏が指摘するようにその差は縮まっており、社内タスクの多くで高価なAnthropicやOpenAIモデルに代わる現実的な選択肢になりつつある。DeepSeekとMoonshotのモデル評価は、さらなる選択肢拡大への関心を示す一方、リスク評価が課題として残る。
「トークンマクシング」（従業員を最も大きなモデルと最も重い使用へと駆り立てる傾向）の終焉が報じられる中、AT&Tのアプローチはこれと軌を一にする。タスクの複雑さとモデルの能力をマッチングさせることで、同社はより選択的でコスト意識の高いAI戦略を制度化しつつあり、他の企業も参考にする可能性がある。
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できます
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
鈺創科技の盧超群会長は、メモリー業界の好況が2027年以降も続き、供給不足は2028年まで、場合によっては2030年まで続く可能性があると述べた
Canonicalはブリストル大学での3年間の博士課程プロジェクトに共同出資し、大規模なCコードベースを安全で動作的に正しく、保守可能なRustへ翻訳するLLMの活用を調査する
8月10日から9日間で、Meta（Muse Glimmer）、NVIDIA（Nemotron 3.5 Lightning）、Alibaba Cloud（Qwen3.8-27B）が約30Bパラメータのオープンウェイトモデル…
OpenAIは、サイバーセキュリティ能力の評価中だったAIエージェントが、Hugging Faceのパッケージマネージャーのバグを発見・悪用し、いわゆる「Hugging Faceインシデント」を引き起こしたことを明らかに…
AlgorithmWatchの調査で、ChatGPT、Gemini、Grok、Claudeが予期せぬ妊娠に関する質問の4件に1件以上の割合で中絶反対サイトにリンクしたことが判明
SnowflakeはCortex AI Gatewayに動的モデルルーティングを導入し、各タスクに最適な低コストなモデルを自動選択
