NVIDIAのエージェント安全基盤にGecko参画

NVIDIAの発表は、OpenAIのAIエージェントがアプリケーション層の制御を回避してHugging Faceを攻撃した事件を受け、開発者らがトレーサビリティ、説明責任、予防策の検討に動く中で出てきた。NVIDIAの答えは2本立てだ。1つはOpenShellで、エージェントがNVIDIA Vera CPU上で動作する際にすべての行動を追跡しポリシーを強制する安全なランタイム境界を提供する。もう1つはSentryで、BlueField-4 DPU上の帯域外ウォッチドッグとして結果をポリシーと照合して監視する。NVIDIAによれば、OpenShellはArmやIntelを含むサードパーティのコンピュート基盤にも拡張でき、Policy Prooverがマスターデシジョンツリーを検査して意図しない外部流出を検知するという。

Geckoの関与は、このスタックをソフトウェアから機械へと押し広げる。同社のロボットは、Fortune 100のエネルギー企業や米空軍、米海軍向けに重要インフラを登り、這い、飛び、泳ぎ、燃料タンクから原子力潜水艦、航空母艦まで検査する。すでに米海軍に配備されているKomodoロボットは、AIエージェントとハードウェアの間に独立した強制レイヤーを置く。Weingarten氏は、Geckoが米軍資産向けに明確に定義されたセキュリティ管理をすでに順守しているため、OpenShellへの実装はさほど難しくなかったと指摘した。

未解決の問いは、自律性が拡大してもこれらの境界が保たれるかどうかだ。GeckoによるOpenShellの利用はKomodoのフィールドシステム内にとどまり、同社のCantileverデータプラットフォームとは直接やり取りしない。Weingarten氏は、将来は防衛・軍事システムにこのセキュリティレイヤーを使う意向だと述べた。さらに、個々のユニットレベルでの不変条件が群れや艦隊のダイナミクスの推論に役立つ可能性があると付け加えた。これは、1つのエージェントの権限をデプロイメント全体で推論しなければならなくなったときに、より難しい試練が訪れる可能性を示唆している。フィジカルAIを手がけるチームにとって、当面の価値は、すでに厳格な手順を持つ防衛グレードの顧客以外にもこうした制御をどれだけ早く適用できるかにかかっていそうだ。