AI企業の安全対策が正規のセキュリティ研究者をも制限

数ヶ月間、大手AI企業はモデルが悪質なサイバー攻撃に使用されるのを防ぐためのガードレールを導入してきた。6月、米国政府はさらに一歩進み、ユーザーが悪意のある利用を防ぐために設計されたガードレールをバイパスできるという報告を受けて、AnthropicのMythosおよびFableモデルに輸出規制を課した。（輸出規制はその後部分的に解除された。Fable5は7月1日に一般アクセスに戻され、Mythos5は検証済みの米国組織のみに再導入された。）

AnthropicとOpenAIはいずれもプログラムを提供している。AnthropicのCyber Verification ProgramとOpenAIのTrusted Access for Cyberプログラムで、承認されたセキュリティ研究者は制限が少ないモデルへアクセスできる。しかし、これら検証済みの経路は、それらを支援すべき研究者自身から批判を招いている。

核心的な不満は、ガードレールが正当な防御的作業をブロックしているという点である。大規模なセキュリティコンサルティング企業NCC GroupのチーフサイエンティストであるChris Anleyは、バグ悪用を支援するようAIに求めることは、それが修正する価値のある実在する脆弱性であることを確認するために不可欠であると説明した。しかし、ガードレールがそうした要求に応じない場合、「ガードレールは防御者を傷つける」。彼はさらに付け加えた。「このコードを修正してほしい」というプロンプトは防御にとって本質的なメカニズムである同時に、コードベース内の重大な脆弱性を発見するためのロードマップでもある。つまり同時に、同じツールは攻撃的ツールでもあり防御的ツールでもあり、二者を本当に分離することはできない」。彼の解決策は、「ハンマーのように、ハンマーなしで家は建てられない。確かにツールだが、同時に本質的に武器でもある」というものだ。

研究者がこうした障害に直面すると、ガードレールのないオープンソースAIモデルに頼ることが多い。政府にゼロデイ脆弱性を発見して売却している著名なセキュリティ研究者Mark Dowdは、企業が「セキュリティにおいて何が安全で何が安全でないかについての恣意的な決定」を下していることに不快感を表明している。政府機関に未知の脆弱性を開発・売却するCrowdfenseのCTOであるPaolo Stagnoも同意し、AI企業は「本質的に顧客を子どものように扱い、ベビーシッターが必要だと考えている」と述べた。Stagnoは機密データ流出の懸念から、クラウドベースのモデルに攻撃的な脆弱性作業を投入することを避けており、代わりにローカル実行のオープンソースモデルを使用している。

他の研究者は異なるアプローチを取っている。ゼロデイを発見しエクスプロイトを開発するGiuseppe Caliは、ガードレールが自分に支障をきたさないと述べた。なぜなら、彼はリバースエンジニアリングと支援ツール構築にのみAIを使用し、攻撃的な作業そのものには使用していないからである。「バグ発見と兵器化の実際のプロセスは自分で行いたい。すべてのガードレールが明日解除されたとしても、それは変わらないだろう」と彼は述べた。「私は自分のバグに執着しており、モデルにこのゲームをプレイさせるつもりはない」。スマートフォンコンポーネントメーカーの匿名の研究者は、雇用主がAnthropicのプログラムに含まれていないため、ガードレールが脆弱性発見に使用するには厳しすぎると述べた。

RemoteThreatのCEOで、Offensive AI Conの創設者であるChris Thompsonは、ガードレールが一貫性に欠け、AnthropicおよびOpenAIの検証済みプログラムのより緩い範囲内であっても日ごとに変わると述べた。「実際の影響は、コアセキュリティプログラムに取り組む代わりに、モデルとの交渉に多くの時間を費やすことになると思う」と彼は述べた。その結果、研究者はGLMのような中国のオープンソースモデルへと押しやられており、これらは自由にダウンロード可能で、検証や利用制限がない。「責任ある研究者が米国規制のシステムから外国所有のシステムへ遠ざけられている」とThompsonは警告した。「これらのガードレールが導入されているのは有益より有害だと思う」。制限をさらに厳しくするのではなく、彼はAI企業にプログラムを開放し、責任あるアクセスを提供し、悪用者に説明責任を求めるよう呼びかけた。そうしなければ防御側がAI競争に負けることになると警告して。「大きな嵐が来ている。かつてないような速度と規模で起こる大きな波状の攻撃がやってくる。しかし、違いを生み出そうとしている同じセキュリティコンサルティング企業と正規の研究者が、今は足止めされている」。

AI安全対策の有効性と有用性との間の緊張は予期しない結果をもたらした。重要なシステムを防御するのに最適な立場にある研究者が、最も能力の高いツールの使用をブロックされているのである。6月のAnthropicモデルに対する米国政府の輸出規制措置はジェイルブレイク懸念に基づくものであり、AI企業がセキュリティ制限をいかに真摯に扱うようになったかを示した。しかし、複数の研究者がTechCrunchに語ったように、ガードレールは攻撃側の人物と防御側の研究者を区別しない。両者が潜在的な脅威として扱われている。

何十年にもわたってゼロデイ脆弱性を西側政府向けに発見してきたMark Dowdは、自身の立場に偏りがあることを認めつつも、核心的な不満を言い表した。「これらの無作為の大企業がセキュリティにおいて何が安全で何が安全でないかについて恣意的な決定を下しているのは本当に心地よくない」。Chris Anleyのハンマーの喩えは、この問題の不可能性を強調している。防御用に開放されながら同時に攻撃用には閉鎖されるツールは存在しえない。防御的作業がブロックされた場合、研究者はより規制が少ない代替案（外国のオープンソースモデルを含む）へ移行し、米国のサイバーセキュリティ全体を実際に弱める可能性がある。

まだコメントがありません。最初のコメントを投稿しましょう！