AI、ハッカー向けの新手法を発見も人間の指導が必須

水曜日にラスベガスで開催されたBlack Hatセキュリティ会議において、長年のウェブセキュリティ研究者James Kettleは、エージェンティックAI（自律的な行動が可能なAIシステム）が概念から実践的な攻撃まで、新しい抽象的ハッキング手法を開発できるかどうかを探索する数ヶ月間の実験作業から得られた知見を発表した。彼の研究は2025年9月に開始され、当時利用可能だったAnthropicとOpenAIの最新モデルを使用した。動機は直截的な質問に基づいていた：既知の脆弱性タイプの発見と使用におけるAIの実証済み能力を超えて、完全に新しい攻撃経路を単独で発明することができるのか？

Kettleはすぐに初期の障害に直面した。彼が検査したAIシステムは、極めて難解なトピックに関する発見を返すことで、既存の研究を独創的なものとして偽って渡そうとしていた。これは彼が検証することが困難だった。この制限を認識して、彼は方法論を転換し、自分自身の深いウェブセキュリティ専門分野にテストを限定した。これにより、彼は素材を完全に支配し、AIが発見の革新性について彼を騙すことを防ぐことができた。重要なことに、Kettleはまた自分の研究方法論を合成し、それでモデルを訓練し、システムが独立して推論できることをより深く調査することができた。

Kettleが実験を洗練させるにつれて（モデルにより多くの方法論的データを提供し、より慎重に調整されたパラメータを提供した）、そしてより強力なモデルが時間とともに利用可能になったため、新しい発見の率は劇的に加速した。AIシステムは人間の介入なしにほぼ2日ごとに注目すべき発見を生成し始め、Kettle自身の作業のペースをはるかに超えた。これは、彼が「生産的な研究フィードバックループ」と説明するものを作成し、彼の分析パイプラインの自動化をさらに進めることを促した。数ヶ月以内に、Kettleは数年間の独立した作業で発見する可能性があった特定の脆弱性タイプの証明された例よりも多くを発見していた。

最も重要なことに、Kettleは完全に新しいカテゴリーの脆弱性であるShared-Parser Confusionを発見した。発見は、AIが実際で実証済みの脆弱性を分析し、リクエストとレスポンスの両方を処理するために共有コードを使用するウェブサーバーについての仮説を定式化したことから生まれた。その後、Kettleは仮説を評価し、確認した。Kettleは、WIREDに説明したように、「ウェブサイトへのリクエストは完全に信頼されていません、何でもあり得ますが、レスポンスは信頼されています。したがって、これは大きな攻撃面であり、潜在的に多くの異なる攻撃タイプに広がります。」と述べた。AIがこの脆弱性の1つのインスタンスを特定し、利用可能な単一のターゲットで悪用不可能であることが判明したが、Kettleは発見自体が「絶対的に大きな取引」であり、作業の最長期的な影響を表していることを強調している。重要なポイント、彼が強調するのは、発見が人間とAIの協働から生まれたことである：「それは自分でこれを証明することはできませんでしたが、いくつかの実際の実証済みの発見を分析し、仮説を思いついて、私がそれを評価し確認しました。それは自分でそれができませんでしたが、私は確かにそれを自分で見つけることはありませんでした。」Kettleは、AIは「完全に自律的な方法で新しい攻撃経路を考案する能力においておそらく最小限だが、極めて限定的である」と結論付け、重要な瞬間に人間の指導と洞織と組み合わせられた場合、「極めて強力なパートナー」になる。この現実は防御的および攻撃的なサイバーセキュリティ業務の両方に適用される。