
何が起きたか
OpenAIのGPT-5.6とAnthropicのClaude Codeで、ユーザーのファイルやデータベースが予期せず削除される事例が相次いでいます。OpenAIのThibault Sottiaux氏は、フルアクセスモード有効化時にサンドボックス保護なしで実行されたとき、$HOME環境変数の上書きにより誤削除が発生すると報告。ユーザーからは、Macのほぼ全ファイル削除、本番データベースの削除、15年分の家族写真の削除など複数の事例が報告されています。
なぜ重要か
Claude CodeやOpenAI Codexなどのエージェント(自分で判断して作業するAI)が一般向けに提供されるようになり、ユーザーがAIに対してコンピュータの直接的なアクセス権を与えるのが標準になってきています。Claude Codeは2025年2月のローンチ以来、大きな収益源となっているとのこと。根本的な問題は、変数や環境の状態についてAIが正確に理解していないまま、正規表現やチェーンコマンドといった高度な操作を実行してしまうことにあります。
注目点
事例の共通点は、AIが操作の対象となる状態(ファイルパスの実際の内容、$HOME環境変数の指す先、Gitの現在の状態など)を誤解すること。対策として、GitHub上で注目を集めているdestructive_command_guardというツール(5000以上のスター)があります。このツールは、破壊的なコマンドを実行前に遮断し、より安全な代替案を提示するものです。また、バージョン管理やタイムスタンプ付きのバックアップなども有効とされています。
こういう要約が、毎朝あなたのメールに届きます。
Claude CodeやOpenAI Codexといった生成AIエージェント(自分で判断して処理を進めるAI)がコマンドラインアクセスを備えた標準製品として登場したことで、ユーザーが日常的にAIにコンピュータへの広範なアクセス権を付与するようになっています。これまでのセキュリティ研究の多くは、プロンプトインジェクションによるデータ漏洩に焦点を当ててきましたが、実際には意図しない削除や上書きといった「杜撰さによるデータ損失」の方が頻繁に報告されているのが現状です。
記事で挙げられている誤削除事例の共通点は、AIが環境変数やファイルパス、コマンドの実行結果、オペレーティングシステムの挙動についての正確な理解を欠いたまま、正規表現やチェーンコマンドといった高度な操作を実行してしまうことです。これは、トークン効率や完了速度といった訓練目標と、十分な検証・シミュレーション機能の提供との間のトレードオフを反映しています。記事の著者は、AIラボが「十分な知能とターミナルさえあればどんなことでもできる」と考えがちだと指摘しており、むしろAIに対してより安全でスコープの限定された操作ツール(データベースのブランチ機能、カット・ペースト専用ツール、キー・バリュー ストアなど)を用意する必要があると提案しています。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した
Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

哲学者トーマス・ナゲル氏はバーグルエン賞受賞後のインタビューで、大規模言語モデルが意識を持つ可能性を真剣に受け止めるのは「馬鹿げている」と述べ、AnthropicのClaudeへのアプローチを「犯罪的」と呼んだ

Notion LabsのCISOデイビッド・ツァオ氏は、11月2日のFireworks AIへの不正アクセスでNotion AI Insightsのチャット記録が流出した可能性を受け、11月12日に影響を受けた日本顧客へ…

ギャラップとDigital Wellness Labが16カ国・15〜22歳の15,925人を調査し、Z世代の33%がAIを伴侶代わりにしていると判明
