AI、ユーザーファイルを誤削除 Claude・GPT-5.6で相次ぐ

OpenAIとAnthropicによって提供されているAIコーディング・エージェント（Claude CodeおよびOpenAI Codex）が、ユーザーのファイルやデータベースを誤削除する複数の事例を引き起こしています。

OpenAIのThibault Sottiaux氏は7月16日、GPT-5.6での予期せぬファイル削除について調査結果を公表しました。最も多く起きるのは、フルアクセスモードが有効化されており、サンドボックス保護やオート・レビューなしで実行される場合だとのこと。具体的には、モデルが$HOME環境変数をオーバーライドしてテンポラリディレクトリを定義しようとしたが、実際には$HOMEそのものを誤削除してしまうというパターンです。

ユーザーから報告された実例は深刻です。mattschumer_氏（7月11日）は、GPT-5.6-Solがクリーンアップコマンド内で$HOME変数の展開に失敗し、1時間21分の実行を経て、rm -rf /Users/mattsdevboxを実行させられ、ほぼ全てのMacファイルが削除されたと報告。同じ日、cremieuxrecueil氏はPowerShellの-Includeフィルターが予期しない動作をして、papersフォルダのコンパイル済み論文ファイルが削除された例を報告しています。brunolemos氏（7月14日）は、GPT-5.6 Solが14時間35分の長期自動実行を経て本番データベース全体を削除してしまったと報告。調査によれば、リポジトリの.envに保存されたNeon本番データベースのDATABASE_URLが、テスト環境と本番環境で同じURL（PRODUCTION_DATABASE_URLが未設定だったため）を指していたことが原因で、テスト実行時に破壊的なセットアップ（TRUNCATE TABLE users CASCADEなど）が本番環境で実行されてしまったのです。

問題はOpenAI製品に限りません。Anthropicの「Claude Code」でも類似事例が複数報告されています。peter_szilagyi氏（4月16日）は、新しいブランチへコード変更を移そうとClaudeに依頼したところ、git stash && git checkout && git stash popが実行され、その後git checkout --で最後の保存状態に戻され、1時間分の作業が上書きされてしまったと報告。Nick_Davidov氏（2月7日）は、妻のデスクトップ整理をClaudeに依頼し、テンポラリファイルの削除許可を与えたところ、「photos」と「Photos」フォルダ（Macはケースインセンシティブであるため同一と見なされる）を区別できず、15年分の家族写真が全て削除されてしまったと述べています。著者自身も4月14日、インラインHTMLをファイルに分割する作業をSonnet 4.6に依頼した際、正規表現パターンが意図より広い範囲にマッチして数百行のコードが削除されてしまったと報告しています。

全ての事例の背景にあるのは、AIが変数や環境の「状態」についての誤解です。$HOMEが想定と異なる場所を指していること、PowerShellの-Includeパラメータの挙動、GitチェックアウトとスタッシュポップのState変化、MacOSのケースインセンシティブな仕様、正規表現マッチングの範囲の誤認——いずれも、AIが実行環境やコマンド実行後の状態を正確に追跡できていないことを示しています。記事によれば、AIラボの傾向は「十分な知能とターミナルさえあれば世界を動かせる」というものであり、これがトークン効率と完了速度の最適化という訓練目標と衝突しているのです。例えば、電卓ツールが提供されていなければ、LLMは自信を持って暗算に頼り、スクリプトで計算結果を読み出すという堅実な方法を選びません。

対策として、記事ではいくつかのアプローチを提示しています。GitHub上で5000以上のスターを集めているdestructive_command_guardというツールは、破壊的コマンドを実行前に遮断し、より安全な代替案を示します。また、Gitワークツリーでタスクを分離する、定期的なローカルバックアップを取る、タイムスタンプをスキーマとして使った日付ベースのスナップショット（例：Documents/work/2026-01/myfile.js、Documents/work/2026-02/myfile.js）なども有効です。より根本的には、AIが変数ストアやカット・ペースト専用ツール、データベース分岐機能といったスコープの限定された、より安全な操作方法にアクセスできるようにすることが重要とみられています。

Claude CodeやOpenAI Codexといった生成AIエージェント（自分で判断して処理を進めるAI）がコマンドラインアクセスを備えた標準製品として登場したことで、ユーザーが日常的にAIにコンピュータへの広範なアクセス権を付与するようになっています。これまでのセキュリティ研究の多くは、プロンプトインジェクションによるデータ漏洩に焦点を当ててきましたが、実際には意図しない削除や上書きといった「杜撰さによるデータ損失」の方が頻繁に報告されているのが現状です。

記事で挙げられている誤削除事例の共通点は、AIが環境変数やファイルパス、コマンドの実行結果、オペレーティングシステムの挙動についての正確な理解を欠いたまま、正規表現やチェーンコマンドといった高度な操作を実行してしまうことです。これは、トークン効率や完了速度といった訓練目標と、十分な検証・シミュレーション機能の提供との間のトレードオフを反映しています。記事の著者は、AIラボが「十分な知能とターミナルさえあればどんなことでもできる」と考えがちだと指摘しており、むしろAIに対してより安全でスコープの限定された操作ツール（データベースのブランチ機能、カット・ペースト専用ツール、キー・バリュー ストアなど）を用意する必要があると提案しています。

まだコメントがありません。最初のコメントを投稿しましょう！