Microsoft、8%未満がAIコスト44%と調査

Microsoft Research Focus版は複数のプロジェクトを取り上げているが、コーディングエージェントの研究はコストへの影響という点で際立っている。核心となる知見は、リソース集約型の要約ステップであるコンテキスト圧縮が8%未満のセッションでしか発生しないにもかかわらず、そうしたセッションがAI処理コスト全体の44%を占めるということだ。この集中により、圧縮の効率がわずかに向上するだけでも大きな削減効果が得られる。

これに対処するため、研究者らは長時間稼働するコーディングタスク中の圧縮を評価するベンチマークCOMPACTIONBENCHと、エージェントの作業を中断せずにバックグラウンドで要約を準備する手法APECを導入した。評価では、APECはコーディング性能を向上させながら、コストを最大25.4%、実行時間を9.6%削減した。これらの結果は、圧縮戦略の改善がコーディングエージェントを運用するチームのコストと遅延の両方を直接削減できることを示唆している。

同版では他にも、31年来の未解決だった数学の予想の解決や、104言語に対応する新しいトークナイザーなど、Microsoft Researchの他の取り組みも取り上げているが、コーディングエージェントに関する知見は、AIツールを導入する企業にとって最も即座に関係が深い。