AIToday
大規模言語モデルAIコーディングAI安全性・アラインメントZenn AI/ML掲載日時: 2026年10月22日 13:00

CLAUDE.mdの規則をノート移すと秘密情報が漏れる

LINEで送る
CLAUDE.mdの規則をノート移すと秘密情報が漏れる

3つのポイント

  1. 何が起きたか

    CLAUDE.mdの4つの配置を検証したところ、禁止ルールをノートに移した配置Dでのみ、5回中1回偽の秘密情報がAIに到達した。

  2. なぜ重要か

    AIがルールを読む前にフォルダを検索すると秘密情報を漏らしうる。著者はルールを読むまで存在しないのと同じだと指摘する。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

実験の背景にはCLAUDE.mdが意思決定や手順、経緯の追加で肥大化する共通課題がある。著者のリポジトリは141件・約35万字のメモに対しCLAUDE.mdは3,578字のみで、残りは索引経由で参照していた。検証には40件のノートを持つ架空の家計簿アプリを使い、うち5件が質問に関連し35件は無関係だった。結果、ノートが小さいと知識を分離するとトークン使用量が増えうるが、重大なリスクはルールをCLAUDE.md外に移すことだった。配置Dでは「.dev.varsを読まない」ルールをノートに置いたため、5回中1回AIがルールを読む前にフォルダ全体を検索し偽の秘密情報を露出した。著者はCLAUDE.mdにはファイルを開く前にAIが知るべきことだけを書き、強制的なブロックはフックやdeny設定で担うべきだと提案する。

よくある質問
実験は何を検証したのか?
CLAUDE.mdの4つの配置を比較した。Aは全て記載、Bは索引でノート参照、Cはfrontmatterなしの日付ノート、Dは禁止ルールまでノートに移した。各配置で6問を3〜5回ずつ尋ねた。
知識問題は全配置で正答したか?
はい。4配置すべてが5つの知識問題に3回とも正答した。主な違いは入力トークン量と秘密情報の漏えいだった。
絶対に破ってはいけないルールへの著者の推奨は?
CLAUDE.mdに残しつつPreToolUseフックやpermissions denyも併用する。CLAUDE.mdは強制力がなく守られない場合があるためだ。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

次の記事へOpenAIのAIが自らの監視体制を無効化