AIToday
大規模言語モデルAI安全性・アラインメントオープンソースAIImpress Watch掲載日時: 2026年9月30日 1:00

NVIDIA、AIエージェント監視の安全基盤

LINEで送る
NVIDIA、AIエージェント監視の安全基盤

3つのポイント

  1. 何が起きたか

    NVIDIAが「NVIDIA Open Agent Safety Platform」を発表。

  2. なぜ重要か

    エージェントの外部から境界を強制するため、エージェントが誤作動したり侵害されたりしても制御が維持される。エージェント自身の安全機構では得られないチェックだ。

  3. 注目点

    普及は多数のパートナーが実際に統合を出荷するかにかかる。Anthropic、Salesforce、SAPはOpenShellの組み込みを計画し、ロボティクス分野ではFigureも加わる。

誰に効くかAIエージェントを導入する企業のセキュリティおよびプラットフォームチームは、こうしたランタイム隔離やハードウェアレベルの制御を評価する必要がある。エージェント自身の安全機構では十分でない可能性があるためだ。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

NVIDIAの新プラットフォームは2つの要素で成り立つ。OpenShellはAIエージェントを隔離環境で実行するオープンソースのソフトウェアランタイムで、どのデータ、ツール、API、サービスに到達できるかをポリシーで制御する。SentryはNVIDIA BlueField-4 DPU上で動作するリファレンスシステムで、エージェントとは別の帯域外環境からエージェントを継続的に監視する。両者を組み合わせることで、エージェントの外部から境界を設定・強制することを狙い、NVIDIAはOpenShellをエージェント向けのVera CPUと組み合わせれば低オーバーヘッドで実現できると付け加えている。OpenShellはNVIDIA製CPUに縛られず、ArmとIntelプラットフォームへの対応作業が進んでいる。

このプラットフォームは、複数のベンダーが組み込みを計画する中で登場した。AnthropicはClaude Managed AgentsをOpenShellとBlueFieldに接続し、アクセス制御を強化するとしている。Salesforceはエージェントの監視と権限承認のためにOpenShellをSlackに統合する計画だ。SAPはJoule StudioランタイムにOpenShellを組み込む。Microsoft、Red Hat、Cisco、CrowdStrike、Scale AIなど100以上の組織が関連技術を採用または支援しており、Figureはロボティクス分野でOpenShellを使う。なお、OpenAI、Google、Metaは参加者に含まれていない。

焦点は発表そのものよりも実行力にかかりそうだ。価値はこれらの統合が実際に出荷されるか、CPUとDPU層でのポリシー強制がエージェントを本番運用する企業にとって実用的かどうかにかかっている。そうしたチームにとって、エージェントに社内データやツールへのアクセスを与え、エージェント自身の安全チェックでは不十分になり得る場面でこそ、結果が最も重要になる。

よくある質問
OpenShellとは何か?
AIエージェントを隔離環境で実行するオープンソースのソフトウェアランタイムで、アクセス可能なデータ、ツール、API、サービスをポリシーで制限する。NVIDIA製CPUに限定されず、ArmとIntelプラットフォームへの対応も進められている。
このプラットフォームには誰が参加しているか?
参加者にはAnthropic、Cisco、CrowdStrike、Dell、HPE、Hugging Face、JPMorganChase、Microsoft、Palantir、Palo Alto Networks、Perplexity、Red Hat、Salesforce、SAP、Scale AI、ServiceNow、SpaceXAIなどが含まれる。OpenAI、Google、Metaは参加していない。
ソフトウェアはどこで入手できるか?
OpenShellを含むOpen Agent Safety Platformのソフトウェアは、NVIDIAの開発者サイトとGitHubで入手できる。
Impress Watch元記事を読む
LINEで送る

GIGAZINE AI、ITmedia AI+、Semafor Tech、TechCrunch AI、The Verge AIも報道

あなたの仕事に関係するAIニュースを、毎朝1分で

業界と使っているAIツールを選ぶと、毎朝7時に仕事に関係するニュースが届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

関連記事

次の記事へGoogle Cloud、AIコーディングエージェント向けプラグイン発表