AIToday
大規模言語モデルAI安全性・アラインメントZenn AI/ML掲載日時: 2026年10月30日 19:01

AIへの手順指示、守られたのは8回中3回

LINEで送る
AIへの手順指示、守られたのは8回中3回

3つのポイント

  1. 何が起きたか

    NOTES.mdに12個のログファイルを1本ずつ開く指示を置いた実験で、従われたのは8回中3回。他の3指示は24回中24回守られた。

  2. なぜ重要か

    手順を守っても飛ばしても最終回答が同じなら、指示の遵守は測定も強制もできず、評価者は出力だけを見て判断するしかない。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

筆者は、重要で短い指示を目立つ位置に置けば守られるという通説から出発し、指示ファイルの肥大化に関するClaude Code公式ドキュメントを根拠に挙げた。それをきちんと検証するため、答えの分かっているタスクを用意した。RESULT:で始まる行から正しい値を抜き出す12個のログ風ファイルを使い、正解表はスクリプトで生成してサブエージェントに渡すディレクトリの外に置いた。

最初の2実験を通じて、素材の量(12ファイル対60ファイル)もプロンプトの行数も遵守率に影響せず、1本ずつ開く指示に対するサブエージェントのツール呼び出し回数も低いままだった。ここから別の変数が見えてきた。指示に従うことが採点対象の出力に痕跡を残すかどうかである。そこで3つ目の実験では、位置・範囲・必要な労力が同じ2つの指示を隣り合わせに置き、従った記録が残るかどうかだけを変えたところ、痕跡を残す指示は4回中4回守られた。

筆者は証拠の限界にも率直で、回答スコアがすべて完璧だったためタスクが簡単すぎて強い結論は出せないこと、Aを加えたときに改善した理由はこの設計では説明できないことを認めている。実務上の結論は、指示を書き換えるのではなく、過程を示す出力を求める一行を近くに添えるか、痕跡の残らない指示は守られない可能性があるものとして扱うことだ。

よくある質問
AIはなぜファイルを1本ずつ開く指示を飛ばしたのか?
1本ずつ開いても一括で読んでも出来上がるanswers.tsvが同一だったため、指示が採点対象の出力に影響しなかったから。2つ目の実験では8回中5回でサブエージェントは一括読みを選び、それでも回答はすべて完璧だった。
この問題への推奨される対策は?
指示を冒頭に移したり強調を足したりするのではなく、過程を記録する出力を求める。例えばファイルごとに1行をchecked/log_NN.txtへ書かせれば、守られた回数を出力から数えられる。
痕跡を求める指示を隣に置くと、指示は何回守られたか?
3つ目の実験では、PをAの隣に置くと4回中4回守られた。最初の2実験でP単独では8回中3回だったのと対照的。ただし4回だけでは偶然と区別できないと筆者は注記している。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へAilytics、セーフィー参加で740万米ドル調達