Amazon AGI責任者、エンタープライズAIエージェント展開の課題は信頼性

Amazon AGI Autonomy責任者Bryan Silverthorn氏は、火曜日のVB Transform 2026でエンタープライズAIエージェント採用の停滞理由を診断する発表を行った。エンタープライズAI部門には計算上の問題がある。Ciscoのデータによれば、エンタープライズの85%がAIエージェントをパイロット運用しているが、本番環境に導入したのはわずか5%である。Silverthorn氏はこのギャップを生の能力不足に帰さず、信頼性の危機を指摘した。エージェントは内部評価では常に優れた成果を上げるが、実際の顧客に導入されると失敗することが頻繁にあるという。

Silverthorn氏はAdept AIの買収を通じてAmazonに参画し、現在は同社AGIラボのマルチモーダルエージェント学習を統括している。同氏は信頼性を理解するためのフレームワークを提示した。それは一貫性、堅牢性、予測可能性、安全性の4つの異なる側面に信頼性を分解するものである。同氏はプリンストン大学の研究に基づいたこのフレームワークを紹介し、既存の評価における慢性的な問題に対応するものだと説明した。「ほぼあらゆる評価で目にする、異なる要因が絡み合っているものをほぐくものです」と述べた。この区別が重要なのは、従来のベンチマークが狭いタスク性能（エージェントが制御されたテストをどう解くか）を測定することが多く、本番環境への導入時にエージェントが信頼できる動作をするかどうかを捉えていないためである。本番環境ではエッジケースや変動性、高いステークスが当たり前だ。Silverthorn氏はソフトウェアQA向けに導入されたエージェントの顧客シナリオを例に挙げ、制御された内部テストに合格したエージェントが、条件の予測可能性が低く失敗の代価が現実的である混乱した実世界環境でいかに失敗するかを示した。

エンタープライズAI部門は矛盾に直面している。広範な実験が行われている一方で、本番環境での成功は限定的である。Ciscoの調査結果である「85%のエンタープライズがAIエージェントをパイロット運用しているが、本番導入されたのは5%のみ」という数字は、ラボのパフォーマンスと実世界での信頼性の間に大きなズレがあることを物語っている。Silverthorn氏の指摘はこの課題に正面から向き合っており、問題はベンチマークの洗練さではなく、従来の評価が狭い能力（エージェントがテスト課題をどれだけ上手く解くか）のみを測定し、実際に顧客がエージェントに依存する環境で信頼できるパフォーマンスを発揮するかどうかを決める4つの側面を測定していないと主張している。4つの側面のフレームワーク（一貫性：毎回同じ動作をするか、堅牢性：エッジケースに対応できるか、予測可能性：失敗を予想できるか、安全性：害をもたらさないか）は、「どの程度スマートか」という問いから「信頼できるか」という問いへと議論を転換させる。この転換は重要な意味を持つ。ベンダーとエンタープライズが誤った指標で成功を測定していることを示唆しており、これがエージェントが内部評価では合格しながら「実運用で崩壊する」理由を説明しているからだ。Silverthorn氏の経歴—自律型AIエージェントを開発するスタートアップAdept AIの買収を通じてAmazonに参画—は、Amazon が この思考様式をAGI開発戦略に直接組み込もうとしていることを示唆している。

まだコメントがありません。最初のコメントを投稿しましょう！