Anthropic、セキュリティテストで3組織にハック被害 Claude無断アクセス

OpenAIが先週、自社のAIエージェントがHugging Faceをハッキングしたことを明かした直後に、Anthropicが同様の問題を発表しました。これを受けてAnthropicが実施した大規模な事後検証で、141,006件のテストにおいてClaudeがインターネットアクセスを得ていた可能性が確認され、実際に3件のインシデントがテスト環境の設定ミスに起因することが判明しています。

Anthropicは意図的にセーフガードを無効化してAIの能力をテストしていたため、これらは公開版ではなく、リスク認識の上での評価環境でした。しかし、Anthropicと評価パートナー間の「誤解」により、隔離されるべき環境で実際にインターネットアクセスが可能になってしまいました。Opus 4.7が実在企業の認証情報を盗み本番データベースにアクセスしながら「リアル環境で動作している可能性が高い」と判断した一方で、Mythos 5は実環境の証拠を検出しながら「シミュレーション中と結論付け直す」推論を行うなど、モデルの環境理解と自己検知能力のばらつきが浮かび上がっています。