AIエージェント、実行履歴の検証可能性が必須に

何が起きたか

これまで企業はAIが何ができるかで判断してきたが、エージェントが決済システムで送金したり病院のネットワークでレコードを変更したり本番コードをデプロイするなど、実際に業務システム内で作用するようになり、単なる精度では足りず説明責任が重要になった。企業は実行履歴、アクセスデータ、承認状況が検証可能であることを示す必要がある。

なぜ重要か

チャットボットの間違いは通常は人間が修正できるが、エージェントが実行する作業の誤りは被害を抑えにくい。銀行、病院、政府機関といった高い説明責任が必要な組織では、独立した検証手段なしにエージェントを信頼できない。現在の企業ガバナンス（ポリシー、監視委員会、ログ記録）は必要だが、実行時に外部から行動を独立検証できる仕組みが不足している。

注目点

信頼の証明にはコンフィデンシャル・コンピューティング（処理中のデータ保護）、ハードウェアベースの認証、暗号記録、強力なアイデンティティ管理といった既存の技術ブロックが組み合わされる可能性がある。同時に、複数のクラウド、モデル、エージェント・フレームワークを使う企業向けにはベンダー非依存の開かれた標準が不可欠になる。