ServiceNow幹部、AI停止に業務文脈必要

ServiceNowはこの1年、エンタープライズAIのコントロールタワーとして自社を売り込んできたが、その野望は今やエージェント導入後に何が起きるかにまで及んでいる。OktaのOktaneイベントで、AIプラットフォームセキュリティ製品担当バイスプレジデントのBhakti Pitre氏は、エージェントの封じ込めを技術的問題ではなくガバナンスの問題として位置づけた。同社の5段階の枠組み——発見、観察、統治、保護、測定——が拡張されたAI Control Towerを支え、封じ込めはリスクに応じて段階化される。

Pitre氏の例は、結果を出さなくなったエージェント（一時停止と調査だけで済むかもしれない）と、10%の値引きのみを許可されながらプロンプトインジェクションを受けて100%値引きを行ったエージェントとの線引きを示している。ServiceNowはエージェントをそれが支える業務プロセスに紐付けることができ、VezaのIDセキュリティ技術を使って過剰な権限を調整している。Pitre氏はまた、エンドポイントからネットワーク、ゲートウェイまで、エージェントが触れるあらゆる層を単一のプロバイダーが把握することはできないと指摘し、ServiceNowはエージェントのセッショントークンとエージェントIDの保護でOktaと協力していると述べた。

この問題の一つの見方は、企業がAIエージェントを本番環境に移すにつれ、封じ込めは特定ベンダーのキルスイッチよりも、セキュリティ、ID、クラウドの各プロバイダーが協力できるかどうかにかかってくるというものだ。Pitre氏自身の発言は、エージェントを止める技術的行為は容易であり、止めるべきかどうかの判断こそが業務文脈の本質となる領域だということを示唆している——エージェントの権限が業務に必要な範囲を超えたときに責任を負うセキュリティチームにとっては特にそうだ。