主要AIエージェント基盤に可観測性の要件欠く

著者らは議論の根拠として印象的な比喩を用いる。銀行が、IDバッジが毎日変わり、上司の承認が記録されず、承認プロセスの変更も記録されない従業員を千人雇うことは決してないだろう。しかし金融、政府、医療の現場でAIエージェントはまさにそのように導入されていると彼らは言う。エージェントは基盤とする大規模言語モデル（テキストを生成するAIシステム）の予測不能性を受け継ぐが、異なる点は計画を立て、ツールを選び、サブエージェントを生成し、より長いタスクで行動を起こすため、投入前のテストではあらゆる経路を予測できないことだ。

提案される修正は2種類の記録に分かれる。「何が起きたか」の記録は主にソフトウェアの配管の問題であり、著者らによればオープンな可観測性標準であるOpenTelemetryを通じて解決できるが、そのワーキンググループは共有トレース形式をまだ確定していない。「意思決定」の記録はより難しく、未解決の研究課題を提起する。モデルが表示する段階的な推論である連鎖思考が実際に意思決定を反映しているのか、確信度を信頼性をもって測定できるのか、といった点だ。標準とテレメトリーが整うまで、エージェントに任せるあらゆるタスクは人間の主体性も引き渡すことになると著者らは主張する。