AIToday
大規模言語モデルAI安全性・アラインメントImpress Watch掲載日時: 2026年11月17日 1:00

Google、人間介在せずAIが脆弱性攻撃を生成と確認

LINEで送る
Google、人間介在せずAIが脆弱性攻撃を生成と確認

3つのポイント

  1. 何が起きたか

    Google Threat Intelligence Groupによると、exploit_agentフレームワークがパッチ前後のコードを比較して脆弱性を見つけ、人間が介在せずにエクスプロイトを書いた。

  2. なぜ重要か

    パッチからエクスプロイトを自動生成できるなら、手作業のレビューが追いつかない速さで防御側が攻撃に直面する恐れがあるとの指摘だ。

誰に効くか最も直接的な影響を受けるのは、ソフトウェアにパッチを適用するセキュリティチームと、攻撃者を追跡する脅威インテリジェンス分析者だ。かつて手作業を要したエクスプロイト開発が、今や自動化され得るからだ。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

Google Cloudの脅威インテリジェンスチームは、攻撃者が手動のプロンプトベースのAI利用から、多段階の侵入を高速に実行できる自律型のマルチエージェントフレームワークへ移行する動きを追跡してきた。人間の介入なしに開発されたエクスプロイトの確認は、人がプロセスを誘導する従来のAI支援型ハッキングを一歩超えるものだ。同じ報告書は、CAIRNやPentAGIを含むオープンソースのエージェント型ペネトレーションテストツールが、金銭目的の攻撃者とサイバースパイ活動を行う攻撃者の双方に使われており、CAIRNが関与した侵入の一つは米国の航空宇宙分野を標的にしていたと指摘する。さらに同グループは、Gemini APIを悪用してクラウド電話ファーム経由で10万件超の合成アカウントを管理するプラットフォームや、国家に関連する攻撃者によるスパイ活動や標的化へのAI利用も確認した。中国関連の攻撃者が盗んだデータをインテリジェンス製品に加工していた事例や、北朝鮮関連の活動がAI生成のペルソナを使い、自律型コーディングアシスタントを操作してバックドアを仕込んでいた事例も含まれる。

よくある質問
exploit_agentとは何か?
複数のLLMを連携させ、パッチ公開前後のコードを比較して脆弱性を特定し、人間の介入なしにエクスプロイトを自動開発するフレームワークだ。
攻撃者はオープンソースのAIツールを使っているのか?
はい。Google Threat Intelligence Groupは、金銭目的の攻撃者とサイバースパイ活動を行う攻撃者の双方が、CAIRNやPentAGIといったオープンソースのエージェント型ペネトレーションテストツールを使い、攻撃手順を自動化していることを確認した。
AIは情報工作にも使われているのか?
はい。同グループは、LLMがコンテンツ作成だけでなく、国家支援グループや商業的なInfluence-as-a-Service事業者による自動化パイプラインの構築、インフラ設計、検知回避にも使われていることを確認した。
Impress Watch元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI3時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey3時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey3時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog3時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly3時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI3時間前
次の記事へ成長リーダーのわずか7%が収益拡大にAI活用