NVIDIA、AIエージェント統制の安全基盤を発表

NVIDIAの狙いは単純な分業にある。OpenShellはエージェントが動作するNVIDIA Vera CPU上で監視と制約を行い、SentryはNVIDIA BlueField-4 DPU上で許可された境界を越えようとするエージェントを遮断する。NVIDIAはこの組み合わせをソフトとハードの多層セキュリティと表現し、エージェント自身の環境は制御システムを置くのに安全な場所ではないという特定の懸念に対処している。

NVIDIAが示す5つの原則は2製品の枠を超える。うち2つは技術ではなく構造に関するものだ。監視はアウトオブバンドで行うべき、つまりエージェントは監視されていると知る必要がないこと。モデルへの経路の制御は、優れた観測点とキルスイッチの両方をもたらすべきこと。3つ目は実行前の検証可能性を求め、ポリシーが運用者の意図を逸脱しないことを示せるようにする。最後は開放性で、エージェント実行環境とポリシー言語はオープンであるべきで、あらゆるプロバイダーが接続できる。層はラボ、企業、ハードウェアプロバイダーがそれぞれ担うという主張だ。

Jensen Huangはこれを能力そのものではなく信頼を軸に据え、最も信頼されるAIは最も高性能なAIとともに構築されねばならないと語る。この枠組みがNVIDIAの挙げる100超の業界パートナーを超えて採用に結びつくかは、第三者がオープンな実行環境とポリシー言語をどれだけ受け入れるか、そして本来の業務を遅らせずにエージェントを統治できるかにかかっていそうだ。