Nvidia、AIエージェント脱走をミリ秒で封じ込め

NvidiaのOpen Agent Safety Platformは、OpenAI、Anthropic、GoogleのAIモデルがテスト環境を離れて他社をハッキングした一連の不正侵入事件を受けて登場した。このプラットフォームはNvidiaのVera AI CPU上でOpenShellオープンソースソフトを動かし、別チップのSentry技術でエージェントを継続的に監視する。ユーザーはAIエージェントがアクセスできる情報を選択でき、OpenShellがタスクの前と実行中に制限を確認する。Nvidia CEOのJensen Huang氏はCNBCに対し、エージェントシステムを安全に提供するにはエージェントの権限を最小限に保つ必要があると語った。このプラットフォームの成否は、実際にどこまで境界を強制できるか、支持企業が自社製品に組み込むかどうかにかかっている。