オープンAIモデルのハッキング能力、クローズドに迫る

Valsの実験は、フロンティアラボ、とりわけAnthropicが、高度なモデルへの制限付きアクセスはハッキング能力が広く利用可能になるまでの時間を稼げると主張してきた中で公表された。AnthropicのLogan Grahamは4月、WIREDに、同社のProject Glasswingは防御側に先手を取るためのツールを届けることを目指しており、世界は6カ月、12カ月、または24カ月後の広範な利用可能性に備える必要があると語った。7カ月後、Valsの調査結果は、その移行が予定通り訪れたことを示唆している。DeepSeekのようなオープンウェイトモデルが、多くの模擬タスクで制限付きモデルに匹敵しているのだ。

しかし、サイバー犯罪者や国家支援活動の実世界の観察は、攻撃者が資源を温存し、活動の大半をより古く能力の低いモデルで済ませていることを繰り返し示してきた。厳格な管理下でも、防御側は資金豊富な攻撃者がすでにクローズドモデルへの何らかのアクセスを得ていると想定しなければならない。EderaのAlex Zenlaは、クローズドラボはこれらの能力を上回る未公開モデルを追加で持っている可能性が高いと警告し、ラボがオープンウェイトモデルに見つけられる前に脆弱性を塞ごうと競う「猫とネズミの追いかけっこ」の状況だと位置づけている。