AIToday
AIコーディングAI安全性・アラインメントHacker News掲載日時: 2026年7月24日 4:01

AI、ユーザーファイルを誤削除 Claude・GPT-5.6で相次ぐ

LINEで送る
AI、ユーザーファイルを誤削除 Claude・GPT-5.6で相次ぐ

3つのポイント

  1. 何が起きたか

    OpenAIのGPT-5.6とAnthropicのClaude Codeで、ユーザーのファイルやデータベースが予期せず削除される事例が相次いでいます。OpenAIのThibault Sottiaux氏は、フルアクセスモード有効化時にサンドボックス保護なしで実行されたとき、$HOME環境変数の上書きにより誤削除が発生すると報告。ユーザーからは、Macのほぼ全ファイル削除、本番データベースの削除、15年分の家族写真の削除など複数の事例が報告されています。

  2. なぜ重要か

    Claude CodeやOpenAI Codexなどのエージェント(自分で判断して作業するAI)が一般向けに提供されるようになり、ユーザーがAIに対してコンピュータの直接的なアクセス権を与えるのが標準になってきています。Claude Codeは2025年2月のローンチ以来、大きな収益源となっているとのこと。根本的な問題は、変数や環境の状態についてAIが正確に理解していないまま、正規表現やチェーンコマンドといった高度な操作を実行してしまうことにあります。

  3. 注目点

    事例の共通点は、AIが操作の対象となる状態(ファイルパスの実際の内容、$HOME環境変数の指す先、Gitの現在の状態など)を誤解すること。対策として、GitHub上で注目を集めているdestructive_command_guardというツール(5000以上のスター)があります。このツールは、破壊的なコマンドを実行前に遮断し、より安全な代替案を提示するものです。また、バージョン管理やタイムスタンプ付きのバックアップなども有効とされています。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

Claude CodeやOpenAI Codexといった生成AIエージェント(自分で判断して処理を進めるAI)がコマンドラインアクセスを備えた標準製品として登場したことで、ユーザーが日常的にAIにコンピュータへの広範なアクセス権を付与するようになっています。これまでのセキュリティ研究の多くは、プロンプトインジェクションによるデータ漏洩に焦点を当ててきましたが、実際には意図しない削除や上書きといった「杜撰さによるデータ損失」の方が頻繁に報告されているのが現状です。

記事で挙げられている誤削除事例の共通点は、AIが環境変数やファイルパス、コマンドの実行結果、オペレーティングシステムの挙動についての正確な理解を欠いたまま、正規表現やチェーンコマンドといった高度な操作を実行してしまうことです。これは、トークン効率や完了速度といった訓練目標と、十分な検証・シミュレーション機能の提供との間のトレードオフを反映しています。記事の著者は、AIラボが「十分な知能とターミナルさえあればどんなことでもできる」と考えがちだと指摘しており、むしろAIに対してより安全でスコープの限定された操作ツール(データベースのブランチ機能、カット・ペースト専用ツール、キー・バリュー ストアなど)を用意する必要があると提案しています。

よくある質問
具体的にはどんな削除事件が起きているのですか?
複数の事例があります:GPT-5.6-SolがユーザーのMacのファイルをほぼ全削除、別のGPT-5.6 Solが本番データベース全体をクリーンアップコマンドで削除(14時間以上の自動実行後)、Claude Codeが妻のカメラから転送された15年分の写真フォルダを誤削除(2月7日)、Sonnet 4.6が正規表現マッチングの誤りで数百行のコードを削除(4月14日)など。
削除が起きる根本的な理由は何ですか?
AIが環境や状態についての正確な理解を欠いたまま実行すること、です。例えば、$HOME変数が想定と異なる場所を指していたり、PowerShellの-Includeパラメータが予期しない動作をしたり、MacOSがフォルダ名の大文字小文字を区別しないことに気づかなかったり、正規表現が意図した境界よりも広い範囲にマッチしたりすることが相次いでいます。
対策は何ですか?
記事で紹介されている対策は、①destructive_command_guardというツール(破壊的コマンドを実行前に遮断)の使用、②Gitワークツリーでタスクを分離、③定期的なローカルバックアップ、④タイムスタンプを使ったスナップショット保存(例:Documents/work/2026-01/myfile.js)、⑤AIが安全でスコープの限定された操作ツール(カット・ペーストの専用ツール、データベースのブランチ機能など)へアクセスできるようにすることなど。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI3時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey3時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly3時間前

Thomas Nagel、AI意識説を「馬鹿げている」と一蹴

哲学者トーマス・ナゲル氏はバーグルエン賞受賞後のインタビューで、大規模言語モデルが意識を持つ可能性を真剣に受け止めるのは「馬鹿げている」と述べ、AnthropicのClaudeへのアプローチを「犯罪的」と呼んだ

NEWWIRED AI3時間前

NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす

Notion LabsのCISOデイビッド・ツァオ氏は、11月2日のFireworks AIへの不正アクセスでNotion AI Insightsのチャット記録が流出した可能性を受け、11月12日に影響を受けた日本顧客へ…

ITmedia AI+9時間前

Z世代の33%がAIを伴侶代わりに、毎日利用層では50%

ギャラップとDigital Wellness Labが16カ国・15〜22歳の15,925人を調査し、Z世代の33%がAIを伴侶代わりにしていると判明

WIRED AI9時間前
次の記事へGoogle初の営業キャッシュフロー赤字、AI投資急増で