エージェントの自律性と制御を両立する4層モデル

AWSは問題を率直に整理する。エージェントを有用にする自律性は同時に予測不能さも生む。エージェントは自らツールと手順を選び、実行のたびに異なる経路をたどり得るからだ。標準的な対処である全行動への人間の承認は、承認が積み上がるにつれて機能しなくなり、レビュー担当者は重要な点を見逃し、有能なエージェントは遊休する。

同社はTrust in Depthを、業界に長く根付くDefense in Depthの思想からの目的の転換と位置づける。従来が問題の影響を限定したのに対し、これは安全に許容できる範囲を広げる。AWSは自動推論を10年以上本番環境で運用し、IAMでは毎秒21億件超のリクエストを処理しており、今それをエージェントに持ち込むと語る。誰がアクセスを承認できるかなど証明可能なルールと、友好的な口調の維持など証明できないルールを線引きし、後者は人間に委ねる。

具体例では、Samという従業員を退職処理するヘルプデスクのエージェントを描く。エージェントはサインインを遮断し、メールボックスを変換し、リーガルホールドを設定し、ライセンスを変更する一方、Policy in AgentCoreが順序を外れた手順を止める。AWSによれば全手順が記録され、チームは結果を検証できる。