AIToday
大規模言語モデルAI安全性・アラインメント主要企業のAIニュースTop Companies AI掲載日時: 2026年11月17日 6:31

Uber、自律AIエージェントの3層セキュリティ枠組みを発表

LINEで送る
Uber、自律AIエージェントの3層セキュリティ枠組みを発表

3つのポイント

  1. 何が起きたか

    Uber Engineeringは3層の枠組みを詳述した。

  2. なぜ重要か

    IDおよび認可システムはエージェントの提案行動がユーザーの要求や文脈に適合するかは判断できず、プロンプトインジェクション、ツールやメモリの汚染、目標乗っ取り、行動のドリフト、幻覚に起因する行動は他で対処する必要がある。

誰に効くか自律型エージェントを運用する企業のセキュリティおよびプラットフォームチーム、特にエージェントのペルソナ、意図、ツールアクセスのポリシーを書くチームは、既存のIDやAPIの制御だけに頼るのではなく、プロビジョニング用のレジストリと実行時フックが必要になる。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

Uberの出発点は既存の制御における隙間である。IDおよび認可システムは、ユーザーやサービスがリソースに到達してよいかを確認できるが、エージェントの提案行動がユーザーの要求、エージェントの意図された目的、その権限、やり取りの文脈に照らして適切かは確認できない。この枠組みは、導入前の登録から実行時の強制、導入後の保証まで、エージェントのライフサイクル上の3つの時点でその隙間を埋める。

プロビジョニングでは、エージェントはUber AI RegistryにID、所有者、ペルソナ、許可された意図、制約、依存関係、リスク分類とともに登録され、Argusがソースコード、プロンプト、設定、依存関係、エンドポイント、ツール呼び出し経路の分析を自動化する。実行時には、Uberはなじみ深いポリシーの管理・決定・強制のモデルを行動認可で拡張し、AI guardsが判断してAgent Guardフックを通じて重要なチェックポイントで適用する。導入後は、継続的保証は統一された実行トレースと記録されたやり取りに依拠し、ポリシーやガードレールが変わった際に再生できる。

Uberは本番運用上のトレードオフも指摘する。ポリシーの厳格さは過剰な誤検知と不十分な保護の両方を避ける必要があり、実行時のレイテンシーを最小化し、セットアップ時の開発者の負担を減らし、制御を汎用的なものではなくエージェント固有のものにする必要がある。報道で引用された外部の識者もさらに問いを加える。国連のシニア情報技術担当官Tristan G.氏は、エージェントごとのペルソナと制約はワークフローの数に応じて労力が増大すると指摘し、組織が自前のフックを挿入できないベンダーやSaaSのエージェントではそうした強制がどう機能するのかと問いかける。

よくある質問
行動認可とは何か?
エージェントの行動が特定の文脈で適切かを実行時に評価する層で、AI Registry、AI guards、Agent Guardのランタイムフックを通じて実装される。
Argusはプロビジョニング時に何をするのか?
Argusはエージェントのソースコード、プロンプト、設定、依存関係、公開エンドポイント、ツール呼び出し経路を分析してセキュリティ上の弱点を特定し、同じ手法をMCPサーバーやツールにも適用する。
Uberの枠組みはどのリスクに対処することを目指すのか?
Uberはプロンプトインジェクション、ツールやメモリの汚染、目標乗っ取り、行動のドリフト、幻覚に起因する行動を挙げている。
Top Companies AI元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へウェスタンデジタル売上高55%増の43億8000万ドル