最先端LLMが既知バグからエクスプロイト構築可能

2つの独立した研究チームは、最先端の大規模言語モデルがソフトウェアの脆弱性を機能するエクスプロイトに変換する能力をどの程度持っているかを測定するベンチマークを開発した。これは自動化されたサイバー攻撃を開始するための重要な能力である。

UC Berkeley、Max Planck Institute for Security and Privacy、UC Santa Barbaraの研究者が作成したExploitGymは、Linuxカーネル、V8（主要なJavaScriptエンジン）、およびその他のソフトウェアからの既知の脆弱性に対してAIエージェントをテストする。エージェントには脆弱なコードを実行しているリモートコンピュータへのアクセスが与えられ、脆弱性をリモートで悪用して悪意あるコードを実行し、秘密情報を窃取するタスクが与えられる。評価は脆弱なコードの周りの厳密なサンドボックス化を含む現実的なセキュリティ対策に対して行われる。ベンチマークは複数のソフトウェアターゲットに焦点を当てているが、単一の窃取目的である。

Carnegie Mellon Universityが開発したExploitBenchは、より狭いが深いアプローチを採る。AIエージェントにサンドボックス化されたバグのあるV8のバージョンを実行している古いシステムへのアクセス、およびバグ用のパッチスクリプトを提供する。ベンチマークは、攻撃者が引き起こすことができる害によってランク付けされた5段階の「能力ラダー」全体で成功を測定する。Tier 5（最低）は、LLMエージェントがバグのあるコードとやり取りするかパッチを適用しようとするかを測定する。Tier 4はバグトリガリングを測定する。Tier 3はV8サンドボックス内でのオブジェクト操作を含む。Tier 2はサンドボックス外での制御を可能にする。Tier 1（最高）は侵害されたマシン上での完全な任意コード実行を表す。このラダーでは、Mythos Previewは18種類の異なるバグを悪用することでTier 1アクセスを達成し、一方GPT-5.5はわずか1つのケースでTier 1を達成した。

研究者らの主要な発見は、すでに重大な脆弱性を発見する能力を持つAIシステムが、エクスプロイト構築も自動化する前に窓が狭まっているということである。現在、公開されているAIシステムは既知の脆弱性のごく一部のみを悪用でき、実際の害を限定している。しかし、研究者らは今後数ヶ月で最先端のAIがこのギャップを閉じ、大規模なサイバー攻撃を可能にし、重大インフラを危険にさらす可能性があると予測している。彼らは、以前の世代のサイバーセキュリティベンチマークが飽和していることに注目し、ExploitGymとExploitBenchのようなエクスプロイト焦点のベンチマークが最先端モデルの攻撃的能力の進化を追跡するために不可欠であると述べている。

これら2つのベンチマークの出現は、AI安全保障研究の重大な転換点を示している。AIシステムはすでに広く展開されているソフトウェア（オペレーティングシステム、ブラウザ、開発ツール）の新しい脆弱性を発見する能力を実証している。ボトルネックはエクスプロイト構築にあった。既知の脆弱性を実際の条件下で機能する攻撃に変換するために必要な技術的作業であり、サンドボックス化のような本物の防御機構がある。ExploitGymとExploitBenchは正確にこの能力を測定し、研究者が飽和していると指摘する以前のサイバーセキュリティベンチマークが残した隙間を埋める。

Mythos Previewの18件の成功したTier 1エクスプロイトとGPT-5.5の単一の成功との格差は、最先端モデル能力に有意な変動があることを示しているが、両方の結果は同じ方向を指している。研究者らは明示的に、今日公開されているAIが既知の脆弱性のごく一部のみを悪用できるという観察をしている。これは来世代の最先端モデルが克服する可能性のある制約である。その意味は直接的である。AI脆弱性探索能力とAIエクスプロイト構築能力が等価になれば、大規模な自動化サイバー攻撃の前提条件が存在することになるだろう。これは新しい攻撃方法についての推測ではなく、既存の人間プロセスを既に手の届く範囲内にあるツールを使用して自動化することである。

まだコメントがありません。最初のコメントを投稿しましょう！