Anthropic、Claude Codeの自動モード設定を変更、安全性調査で89%の有害行為検出

Anthropicは金曜日、Claude CodeのオートモードをPro、Max、Teamアカウント全体のデフォルトに設定すると発表し、変更は8月14日に有効となる。3月にAnthropicが初めてテストした自動モードでは、Claude Codeが各ステップで人間の許可を求めるために一時停止するのではなく、自動的にコードアクションを実行できる。システムは不可逆的、破壊的、またはユーザーの環境外を対象とした行為だと判定されたアクションのみをブロックする。

同社の判断は実証的なテストに基づいている。1,053人の有料テスターを対象とした調査では、自動モードが有害行為の89%を検出したのに対し、手動レビューは13.6%にとどまった。Anthropicはこのパフォーマンスギャップの一部を人間の行動に帰している。ユーザーがClaude Codeで許可を求められると権限プロンプトの97%を承認することから、手動レビューは習慣的になり、ゲート機能を失うことが示唆される。Claude CodeのHead Boris Chernyはこの機能への信頼を強調し、X上で「チームと私は多くの月の間、自動モードのみを使用しており、許可プロンプトに戻ることを想像できません」とコメントした。

デフォルト設定への変更に加えて、Anthropicはプロンプトインジェクションスクリーニング（AIの入力に悪意のある指示を注入しようとする攻撃に対する防御）や、ユーザーが特定の種類のアクション（データ流出の試みなど）を明示的にブロックできるカスタマイズ可能なハードデニールールなど、追加の安全措置を導入した。これらのレイヤー化されたセーフガードは、ユーザーが各ステップを手動で承認する必要なく安全性を維持するために設計されている。