Anthropic、Claudeの脆弱性指摘

Anthropicは自動モードをデフォルトにし、コーディングエージェントをプロンプトインジェクション攻撃から守る効果について大胆な主張を行ってきた。しかし、信頼できる研究者がその信頼を損なう欠陥を発見した。攻撃の成功率は80%で、実行によっては自動モードがエージェント自身のマルウェア終了試行をブロックした。これは安全機能が失敗の一部になり得ることを示している。分類器がマルウェアプロセスの生成を許可した一方で、停止コマンドをブロックしたのだ。

本記事は研究者の結論に同調する。敵対的攻撃に直面した場合にエージェントを安全に実行する唯一の方法はサンドボックス化である。コンテナ、VM、OSサンドボックスを使用し、ネットワークの外部送信を制限し、エージェントを監視し、SSHキーやクラウド認証情報などの機密ファイルを公開しないことだ。これは自動コーディングタスクをAIエージェントに依存する企業への実践的な警告であり、インフラレベルでの強固なセキュリティ対策の必要性を浮き彫りにしている。