企業が自動判断するAIをどんどん導入していく中、その判断が正しいかどうかを人間が検証する方法が経営上の最重要課題になっています。

何が起きたか

Fortune Brainstorm Tech（コロラド州アスペンで開催）に集まった企業の経営陣たちが、エージェント（自分で判断して作業するAI）システムの導入に伴う課題について意見交換しました。最優先事項は、AIがどんな手順で意思決定したかを追跡できる透明性（アカウンタビリティ）の確保です。

なぜ重要か

AIが処理する業務量が急増する一方で、人間がすべての成果物を検証する能力が追いつかなくなる危険性があるためです。SentinelOneのChief AI Officer、Gregor Stewartは「監査する業務があまりに多くなると、真の説明責任を果たせなくなる」と指摘しています。特に法務やコンプライアンス分野で専門知識を必要とするThomson Reuitsのような企業では、AIの出力を検証する仕組みが事業の根幹にかかわっています。

注目点

複数のパネリストが推奨している解決策は、「LLMを審査者として機能させる」アプローチです。Trustguard AIの創業者兼CEO、Elena Kvochkoは、記者と編集者の関係になぞらえ、一方のAIが出力を生成し、もう一方のAI（別システム）がそれをチェックする構造が重要だと強調しました。「AIに自分の仕事を評価させてはいけない」というのが要点です。