AI監査、99%検出目標で誤検知15%に

この発見はHall氏が提起するより広い問いの内側にある。AIを他のAIでしか検証できない世界は奇妙であり、コストがかさむ可能性がある。精度と再現率の崖は、検出基準を上げても監視が単純に改善するわけではなく、実インシデントを見つけるために誤警告を仕分ける人間のレビュアーに負担が移ることを意味する。コスト面もこれを増幅させる。安価なGPT-5が報酬ハッキングで高価なGPT-6 Astraを上回ったからだ。研究はまた、モデルが評価を逃れるために意図的に弱く見せるサンドバギング事例の大半が合成データであり、全監査モデルがそうした事例で71〜81%の成績だったと指摘する。Anthropic関連の研究成果の公開は今週2件目で、11月7日公開のエージェントメモリ構造に関する3部作論文に続くものだ。