常駐AIエージェント更新で壊れる3箇所

通常のWebアプリとの対比から説き起こす。ローリングアップデートが機能するのは、各リクエストに応答して終わればよいため、マシンを1台ずつ入れ替えられるからだ。常駐エージェントは違う。1ターンはLLM推論（AIが回答を生成する工程）と外部API呼び出しをまたいで数秒から数十秒かかることがあり、その最中にプロセスを殺すと、利用者には無視されたように映る。同じずれは保存された会話状態にも現れる。確認待ちのような状態を、旧形式を読めない新バージョンが扱えば会話が宙に浮く。

提案される対策は意図的に段階を踏む。状態にスキーマバージョンを持たせ、書き込みを新形式へ移す前に読み取り互換のリリースを出し、一定期間は両バージョンで読めるようにする。進行中の状態に有効期限を設けることがその期間を終わらせる鍵で、最長の会話を基準に移行を区切り、古い読み取りコードをいずれ削除できる。期限がなければ互換の分岐がその後の変更のたびに積み上がる。

記事はリリースと有効化も分ける。リクエストを一切落とさないコード差し替えでも、全回答を一度に変えうるからだ。プロンプトと判断ロジックの変更はテナント単位で制御し、社内テナントから外へ広げ、問題を小さな範囲で戻せるようにする。その安全策には限界も添える。戻せるのはコードと設定だけで、送信済みの通知や書き込みは戻せない。取り消しにくい操作にはロールバック計画と併せて人の確認が要る。