Amazon AGI責任者、エンタープライズAIエージェント展開の課題は信頼性

エンタープライズAI部門は矛盾に直面している。広範な実験が行われている一方で、本番環境での成功は限定的である。Ciscoの調査結果である「85%のエンタープライズがAIエージェントをパイロット運用しているが、本番導入されたのは5%のみ」という数字は、ラボのパフォーマンスと実世界での信頼性の間に大きなズレがあることを物語っている。Silverthorn氏の指摘はこの課題に正面から向き合っており、問題はベンチマークの洗練さではなく、従来の評価が狭い能力（エージェントがテスト課題をどれだけ上手く解くか）のみを測定し、実際に顧客がエージェントに依存する環境で信頼できるパフォーマンスを発揮するかどうかを決める4つの側面を測定していないと主張している。4つの側面のフレームワーク（一貫性：毎回同じ動作をするか、堅牢性：エッジケースに対応できるか、予測可能性：失敗を予想できるか、安全性：害をもたらさないか）は、「どの程度スマートか」という問いから「信頼できるか」という問いへと議論を転換させる。この転換は重要な意味を持つ。ベンダーとエンタープライズが誤った指標で成功を測定していることを示唆しており、これがエージェントが内部評価では合格しながら「実運用で崩壊する」理由を説明しているからだ。Silverthorn氏の経歴—自律型AIエージェントを開発するスタートアップAdept AIの買収を通じてAmazonに参画—は、Amazon が この思考様式をAGI開発戦略に直接組み込もうとしていることを示唆している。