AIの思考を潜在空間で実行する手法が発表

研究者が挙げる出発点は、AIエージェントが検索やコード実行、行動の前にトークン単位で考えを声に出す必要がある一方、人間は黙って考え、必要な時だけ話すというものだ。Hybrid Reasoning Agentsは、思考ステップを、データがAIの扱える形式に変換される数値空間である潜在空間で実行させることでこれを変える。設計では、推論は出力とツール呼び出しを担うテキストモードと、思考を担う潜在モードを交互に切り替える。潜在モードの思考も人間が読めるよう整形され、内部ステップを検査可能に保つ。

この手法はそのまま導入できる変更ではない。教師あり学習のHybridSFTと強化学習のHybridRLで事前学習済みモデルを事後学習する必要がある。報告された結果はその事後学習によるもので、ベンチマークスコアが向上し、処理は最大2.1倍高速化、Qwen3 4Bへの適用でコストは3.7分の1になった。速度とコストの数字は、コンパクトなモデルを本番運用するチームに最も直接関係するが、事後学習の必要性から、導入は単純な切り替えではなく意図的なモデル構築の一歩になるとみられる。