企業がAIエージェント（自分で判断して作業するAI）を本番システムに導入する段階に進み、単なる能力評価ではなく、実際の行動が承認された範囲内で行われたことを証明する仕組みが必須になってきた。

何が起きたか

これまで企業はAIが何ができるかで判断してきたが、エージェントが決済システムで送金したり病院のネットワークでレコードを変更したり本番コードをデプロイするなど、実際に業務システム内で作用するようになり、単なる精度では足りず説明責任が重要になった。企業は実行履歴、アクセスデータ、承認状況が検証可能であることを示す必要がある。

注目点

信頼の証明にはコンフィデンシャル・コンピューティング（処理中のデータ保護）、ハードウェアベースの認証、暗号記録、強力なアイデンティティ管理といった既存の技術ブロックが組み合わされる可能性がある。同時に、複数のクラウド、モデル、エージェント・フレームワークを使う企業向けにはベンダー非依存の開かれた標準が不可欠になる。