失敗エージェントを1手目で見抜く 論文「Doomed from the Start」、トークン6割削減

エージェントに複雑なタスクを投げると、失敗するエピソードほど長く回りがちで、RLのロールアウト収集や評価バッチでは無駄な計算コストが積み上がる。この問題に対し、論文「Doomed from the Start」は、エージェントの内部状態（隠れ層の活性）から失敗を予測して早期に打ち切る手法を提案した。従来の振る舞いベースのスコアラーは序盤ではほぼ当てずっぽうで、まともに効き始めるのはラウンド3〜4あたりだが、その頃には全エピソードの3分の1以上がすでに終わっている。一方、隠れ状態を線形プローブで読む手法は1手目の時点で結末をかなり言い当て、振る舞い特徴量を足しても性能は伸びなかった。この手法は、成功回の取りこぼし率を保証する打ち切りゲートの連鎖として設計され、recall目標を数値で指定できる実務的なツマミを持つ。Qwen-2.5-7BやLlama-3.2-3BなどのモデルとTextCraft・WebShop環境での計24通りの評価で、9割の成功回を守りつつ生成トークンを6割前後削減した。ただし、ホワイトボックス前提であり外部APIモデルには使えないこと、較正データが少ないと到達できるrecallに上限があること、全体recallの制御は定理ではなく経験的なマージンであることなど、著者自身が留保を並べている。この手法が実運用に乗るかは、本番環境でサービング側から活性を読み出す実装が整うかどうかにかかるとみられる。