無許可AIエージェントを3割の従業員が利用

ジェンキンス氏は、エージェント型のシャドーAIを、無許可チャットボットの時代からの段階的な変化と位置づける。マイクロソフトの「従業員のほぼ10人中3人」という数字と、エージェント型AIの研修を受けた従業員のほぼ半数が独自のエージェントを構築しているというアドビの発見を合わせると、リスクが理解される前に強力なエージェントを簡単に作れるようになったことで、こうした行為が広がっていることがうかがえる。同氏は、多くの従業員が自ら生み出すリスクを認識していないと指摘する。不注意からではなく、ツールが驚くほど使いやすいからだ。

ガバナンスの空白は明白だ。IT・業務の責任者3,235人を対象としたデロイトの調査では、エージェント型AIのリスクについて成熟したガバナンスモデルがあると答えた組織は21%にとどまり、今年クラウドセキュリティアライアンスが調査した組織の半数以上が、エージェントが意図した権限を超えて動作するのを経験している。ジェンキンス氏は、これはエージェント型AIを導入している組織の大半が、許可の有無にかかわらず、すでに意図しない動作を目にしてきたことを意味すると論じる。

データ露出にとどまらず、ジェンキンス氏はより長期的な損失を指摘する。従業員が構築したエージェントに埋め込まれた組織の知識が、可視化も文書化もされないままになるというものだ。同氏は、統制を備えた共有の構築環境を設け、データやコンテンツ、業務活動をAIシステムが読み取れるようにして、従業員が回避策を探すのをやめられるようにするよう求める。AIネイティブへの変革には約2年かかると見込み、知識とワークフローを企業にとどめるため、今すぐ始めるよう組織に促している。