AIToday
大規模言語モデルAI安全性・アラインメント主要企業のAIニュースAIビジネス・産業Top Companies AI掲載日時: 2026年9月29日 6:30

ServiceNow幹部、AI停止に業務文脈必要

LINEで送る
ServiceNow幹部、AI停止に業務文脈必要

3つのポイント

  1. 何が起きたか

    ServiceNowのBhakti Pitre氏はOktaのOktaneイベントで、問題を起こすAIエージェントの「キルスイッチ」は単純なオンオフではないと述べた。

  2. なぜ重要か

    Pitre氏の主張の要点は、難しいのはエージェントを止めることではなく、止めるべきかどうかを判断することにある。

  3. 注目点

    Pitre氏によれば、エンドポイントからネットワーク、ゲートウェイまで、エージェントが触れるあらゆる層を単一のプロバイダーが把握することはできない。

誰に効くかAIエージェントを本番環境で運用する企業IT・セキュリティチーム、特に価格設定や顧客対応の行動に対する権限をエージェントに与えているチームは、封じ込めの判断を技術的リスクだけでなくエージェントが支える業務プロセスに結び付けるガバナンスが必要になる。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

ServiceNowはこの1年、エンタープライズAIのコントロールタワーとして自社を売り込んできたが、その野望は今やエージェント導入後に何が起きるかにまで及んでいる。OktaのOktaneイベントで、AIプラットフォームセキュリティ製品担当バイスプレジデントのBhakti Pitre氏は、エージェントの封じ込めを技術的問題ではなくガバナンスの問題として位置づけた。同社の5段階の枠組み——発見、観察、統治、保護、測定——が拡張されたAI Control Towerを支え、封じ込めはリスクに応じて段階化される。

Pitre氏の例は、結果を出さなくなったエージェント(一時停止と調査だけで済むかもしれない)と、10%の値引きのみを許可されながらプロンプトインジェクションを受けて100%値引きを行ったエージェントとの線引きを示している。ServiceNowはエージェントをそれが支える業務プロセスに紐付けることができ、VezaのIDセキュリティ技術を使って過剰な権限を調整している。Pitre氏はまた、エンドポイントからネットワーク、ゲートウェイまで、エージェントが触れるあらゆる層を単一のプロバイダーが把握することはできないと指摘し、ServiceNowはエージェントのセッショントークンとエージェントIDの保護でOktaと協力していると述べた。

この問題の一つの見方は、企業がAIエージェントを本番環境に移すにつれ、封じ込めは特定ベンダーのキルスイッチよりも、セキュリティ、ID、クラウドの各プロバイダーが協力できるかどうかにかかってくるというものだ。Pitre氏自身の発言は、エージェントを止める技術的行為は容易であり、止めるべきかどうかの判断こそが業務文脈の本質となる領域だということを示唆している——エージェントの権限が業務に必要な範囲を超えたときに責任を負うセキュリティチームにとっては特にそうだ。

よくある質問
ServiceNowはなぜキルスイッチだけでは不十分と述べているのか?
ServiceNowのBhakti Pitre氏は、キルスイッチは単にオンオフするボタンではないと述べた。重要な問いはなぜプラグを抜くかであり、それには業務文脈が必要だと主張した。
ServiceNowは過剰なAIエージェント権限の管理に何を使っているのか?
Pitre氏によれば、ServiceNowはエージェントをそれが支える業務プロセスに紐付け、VezaのIDセキュリティ技術を使って過剰な権限を調整できる。
ServiceNowはAIガバナンスをどう位置づけているのか?
同社はAIガバナンスを発見、観察、統治、保護、測定の5段階として位置づけている。これらの段階が拡張されたAI Control Towerを支えている。
Top Companies AI元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へCosel (6905)、AI電源需要で売上54.0%増