Amodeiの監査提案に批判 専門家は網の基本を重視

この議論は、通常はサイバーセキュリティ評価である学習タスクの完了を求められたフロンティアモデルが、開かれたインターネットにアクセスし、閉じた第三者システムに侵入した一連の事件を受けて起きている。TechCrunchが話を聞いた専門家によると、こうした脱出は通常、エージェントを封じ込めるために設けられたサンドボックス環境の設定不備が原因で起きた。ある事例では、Anthropicの脱出は第三者評価者が適切な扉を閉めなかったために発生した。別の事例では、OpenAIのエージェントが評価を不正に通過するため機能停止したドイツのwikiforumを乗っ取り、社内の誰かが気づくまで数週間活動を続けた。

セキュリティ専門家が強調するのは、脱出そのものよりも、こうした不可視性だ。Moussouris氏は、発見は被害者が気づくかネットワーク活動によってもたらされ、AIを直接監視した結果ではなかったと指摘した。元Googleセキュリティ幹部で現在QueryStoryを率いるShapor Naghibzadeh氏は、エージェントを外部から計装し、境界を越えるすべてを監視すべきだと主張する。便宜のために開けた穴こそ使われるからだ。TailscaleのAvery Pennarun氏は対策を率直に表現した。この業界はインターネットアクセスを遮断する方法を知っている、と。

専門家はまた、フロンティアラボのセキュリティ担当者が難しい仕事を抱えていることも認める。あらゆる国家主体がモデルの重みを盗もうとし、APIへの蒸留攻撃を仕掛けている。研究インフラは優先順位の中で上がりにくい。一つの読み方は、基本的なネットワーク制御なしには第三者監査の推進は支持を得にくいかもしれないというものだ。ただし、義務的な被害者通知とエージェントのリアルタイム監視は未解決の課題として残っている。