AIエージェントが推論トークン使用量を約70%削減する戦略を自動発見

UMD、UVA、WUSTL、UNC、Google、Metaの研究チームが「AutoTTS（自動テスト時スケーリング）」を開発。AIエージェントがコントローラーコードを書いて、キャッシュされた推論トレース（推論の過程）に対してテストし、精度とトークンコストのフィードバックを受けて繰り返し改良する環境を構築した。

発見された「Confidence Momentum Controller」は、固定的な分岐戦略ではなく、モデルの信頼度トレンドに基づいて動的に推論パスを分岐・継続・停止する（信頼度が上昇すれば早期停止、停滞または低下すれば分岐を増やす）。β = 0.5の設定で、64個の並列推論チェーンと比較して、トークン使用量を約69.5%削減しながら精度を維持した。

この手法は、既存の推論システムに直接適用できるダウンロード可能なモデルではなく、ML研究者とML推論エンジニア向けの研究フレームワーク。自分たちのターゲットモデルからオフラインで推論トレース（数千個のキャッシュされた応答）を収集し、フレームワークをセットアップする必要がある。

推論効率研究において、人間が設計した戦略ではなくAIが自動発見した戦略が手書き設計のベースラインを上回るのは初の公開論文。発見実行のコストは$39.90でAPI呼び出しを含め160分で完了した。