Anthropic、Claude Codeの自動モード設定を変更、安全性調査で89%の有害行為検出

Anthropicが自動モードをデフォルトに切り替えるという決定は、コード生成AIがどのように安全性監視に対応すべきかについての根本的な考え方の転換を反映している。同社は3月に速度と制御のバランスを取る中間案として自動モードをテストしたが、自動モードが有害行為の89%を検出し、手動レビューはわずか13.6%にとどまったという実証結果は、自動化された安全チェックが実際に人間の判断を上回ることを示唆している。その差は顕著である。ユーザーは手動承認を求められると権限プロンプトの97%を習慣的に承認する傾向があり、この行動パターンは本来のゲートキーピング機能を無効化してしまう。これに対し、自動モードは何が不可逆的、破壊的、または境界を越えるものであるかについて一貫性のあるルールベースの基準を強制し、このユースケースにおいて人間の直感よりも信頼性が高い。

ロールアウトはまた、新しい安全レイヤーとタイミングを合わせている。プロンプトインジェクションスクリーニングとカスタマイズ可能なハードデニールールはデータ流出など特定の攻撃ベクトルを防ぐために設計されている。このレイヤー化されたアプローチ（人間のゲートキープに頼るのではなく、自動実行と明示的な安全ガードレールを組み合わせたもの）は、AI企業が開発者向けツールにおける信頼と監視についてどのように考えているかの転換を示している。