プロンプトインジェクションはLLMアプリのOWASP首位だが、実被害は12位。
差は危険性ではなく可視性を反映。
スキャナーでは見えない攻撃。
何が起きたか
LLMアプリケーション向けOWASP Top 10の共同リーダーであるKyriakos "Rock" Lambros氏とSteve Wilson氏が、同リストと6,639件のラベル付き実世界インシデントを比較したところ、プロンプトインジェクションはOWASPリストで3年連続1位である一方、実際のインシデントでは12位だった。
なぜ重要か
研究者らは、この順位の差は危険性ではなく可視性を反映していると指摘。プロンプトインジェクションは脆弱性スキャナーが検知できない場所で機能するため、CVE数が少ないのを見て対策を後回しにするCISOは誤った判断をしていることになる。国内のAI開発企業は、裁判や報道で目立つ攻撃ばかりに対策を偏らせ、検知されにくい実害の多い脅威への備えを後回しにする可能性がある。
注目点
この分析は探索的であり、査読も公式のOWASPリリースも経ていない。データはCVE、GitHub Security Advisories、OSV、AIAAICのAI被害データベースなどから収集した7,714件のLLMセキュリティインシデントに基づき、そのうち6,639件を20項目の分類体系に照らしてラベル付けした。
LLMアプリケーション向けOWASP Top 10は、理論上の深刻度を反映してプロンプトインジェクションを3年間首位に置いてきた。だが、プロジェクトリーダー2人が実世界のインシデントと照合したところ、ラベル付き事例での出現頻度は12位にとどまった。これは危険性が低いことを意味するのではなく、現在の脆弱性スキャン手法では見逃されることが多く、インシデントデータベースで過少報告されている可能性を示唆する。
研究のデータはCVEやAIAAICのAI被害データベースなど複数の情報源に基づき、7,714件のインシデントを対象に、うち6,639件をラベル付けした。分析は探索的で公式ではないため、その結果はOWASPリストの改訂ではなく、さらなる調査を促すシグナルと見るべきだ。セキュリティ責任者にとっての要点は、CVE数が少ないことはプロンプトインジェクションのリスクを測る信頼できる指標ではないということだ。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
新たな分析が、組み込み型AIシステムが「エッジAIの壁」と呼ばれる構造的ボトルネックに直面し、搭載計算能力の限界と探索空間の指数関数的成長により、従来のスケーリングが非効率になると主張している
JetBrainsが、ローカルマシン上で完全に動作するコーディングエージェント「Junie Local」を発表した
ピュー研究所が米成人3,488人を対象に実施した調査で、34%が情報を素早く得る（28%）、症状の原因を調べる（25%）、医師の診断について詳しく知る（22%）など、8つの健康関連目的のうち少なくとも1つにAIチャットボ…
テキサス州のグレッグ・アボット知事が、Flock社製AI監視カメラへの州予算拠出を凍結した
独立系AI研究者2人による研究（MATSプログラムの一環）が、AnthropicのClaude CodeとOpenAIのCodexの時間感覚を検証
ボッコーニ大学の新入生1,053人を対象にした無作為化実験で、GPT-4oを使った学生はビジネス課題で有意に高い成績を収め、1〜5点満点で約1点近く上回った
