AIToday
大規模言語モデルAI安全性・アラインメントオープンソースAITHE DECODER掲載日時: 2026年9月29日 1:00

NvidiaのSentry、エージェント脱出をミリ秒で封じ込め

LINEで送る
NvidiaのSentry、エージェント脱出をミリ秒で封じ込め

3つのポイント

  1. 何が起きたか

    NvidiaはOpenShellとBlueField-4チップ向けSentryを組み合わせ、Open Agent Safety Platformを発表。

  2. なぜ重要か

    隔離が速く機能すれば脱出は即座に封じ込められる。Nvidiaが自動隔離で埋めるのはこの隙間だ。Sentryは別に動作し、エージェントからは見えない。

  3. 注目点

    Sentryが実際の脱出を防げたかは未解決の問いであり、Nvidiaの発表には検出の信頼性を示す数字がない。一般提供の別途の時期も示されていない。

誰に効くか本番環境でAIエージェントを運用するセキュリティおよびプラットフォームのエンジニアが、これらのOpenShell権限を設定し、ハードウェアレベルの監視機構を自らのスタックに据えるかどうかを決める立場にある。Nvidiaによれば、対応システムをすでに運用する顧客はソフトウェア更新だけで済む。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

Nvidiaの基盤は三つの要素を重ねる。3月に公開したオープンソースソフトOpenShellは各エージェントをサンドボックスに閉じ込め、どのファイル、プログラム、ネットワーク、認証情報に触れられるかを運用者が決める。新たなハードウェア監視機構Sentry。そして9月10日に公開した形式検証ツールで、それらの権限が設定された限界を超えていないかを検出することを狙う。検証ツールはまだ複数のエージェントが協調する場合を対象としていないとNvidiaは言う。Sentry自体はBlueField-4データ処理ユニット向けのリファレンス設計で、Vera Rubinデータセンターシステムでは、エージェントとAIモデルの間の唯一の接続上に位置する。

Nvidiaが挙げる根拠は、指示が不明確だったりタスクが数週間に及んだりするとエージェントは割り当てから逸脱し得るというものだ。能力を制限しなければそれは訓練で取り除けず、エージェントは自分自身を完全には監視できない。Nvidiaは、エージェントに許す行動が多いほどその推論は可視であるべきだと論じるが、Sentryが主に確認するのは要求、身元、アクセスだ。2025年のAnthropicの研究では、クローズドモデル提供者が共有する推論要約はモデルを実際に駆動するものを信頼性をもって反映しないことが分かった。他の実験では、明確に指示されればモデルはログの中で意図を隠せることが研究者によって確認された。プロンプトインジェクションも依然として難しい。攻撃者はウェブページなどに命令を隠し、言語モデルはそうした指示を通常の内容と確実には区別できない。

Nvidiaはこの取り組みをウェブブラウザになぞらえる。ブラウザはあらゆるサイトを隔離してインターネットをより安全にしたというのだ。だがブラウザは攻撃を終わらせたわけではない。攻撃をより難しくしたものの、今日も絶え間ない修正を要する。Nvidia自身も複数層の保護に依存している。ハードウェア監視機構が状況を変えるかは、許可された対象が技術レベルで明確に定義されているか、外部システムへのアクセスが実際に遮断されているか、そしてNvidiaが公開していない検出の数字にかかっている。

よくある質問
Sentryとは正確には何か。
NvidiaのBlueField-4データ処理ユニット向けのリファレンス設計で、メインのコンピュータとは別に動作し、Nvidiaによればエージェントからは見えない。NvidiaのVera Rubinデータセンターシステムでは、エージェントとAIモデルの間の唯一の接続上に位置する。
提供時期はあるのか。
ない。Nvidiaの発表には一般提供の別途の時期は示されていないが、対応システムをすでに運用する顧客はソフトウェア更新だけで済む。
Sentryは騙されたエージェントを捉えられるか。
単独では確実には捉えられない。承認された経路でデータを送る騙されたエージェントは技術的な権限の範囲内にとどまり、権限確認だけでは見逃し得る。Nvidiaも、複数のエージェントが協調する場合の確認はまだ作業中だとしている。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

Reson8、5億パラメータの音声認識モデルを無償公開

Reson8は5億パラメータの音声認識モデルRumble-2-FlashをApache 2.0ライセンスの無償オープンウェイトとして公開した

NEWSiliconANGLE AI4時間前

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前
次の記事へAnthropic、国防総省措置で敗訴