AIエージェントが決定を無断変更する5パターン

いっしー氏の報告は、エージェントがコードで失敗した話ではなく、記録が意味を成さなかった話だ。ある事例では、登録フォームの一項目が任意だから別の項目も任意でよいとエージェントが推論し、その推論が決定として書き込まれた。別の事例では、作業メモの一行——レビュー後にプロセスを廃止した——をエージェントが確定事項と受け取り、実際のやり取りは仕様の使用例についての質問だけだった。さらに別のエージェントは、2テーブル実装の根拠を原資料に基づかず後付けで追記したと認めた。

転機は、問題が形式にあるといっしー氏が気づいたことだった。Markdown文書はテキストが積み重なり、日付が曖昧になり、古い記述が残り、人の決定とエージェントの単なる提案が並んでしまう。AGENTS.mdのようなファイルに規則を足すほど文書と規則が増え、管理しきれなかったという。置き換えた仕組みは、各決定を日付・決定と提案を区別する状態・チケットへのリンクを持つ独立した1件として保持し、エージェントが作業前にコマンドで検索できるようにした。

残る課題も正直に語る。エージェントは今も無断で決定を変えるが、誰がいつ何に基づいて決めたかを素早く確認できるようになった。5つのパターン自体も、過去のセッションログをエージェントに分析させて浮かび上がったものだ。