オープンウェイトAIで攻撃容易に

この記事は、オープンウェイトAIモデルが高度な攻撃を開発できる人を制限していた障壁を取り除いたという変化を浮き彫りにしている。クローズドモデルと違い、これらは監視や管理なしにダウンロードして使え、攻撃者は検閲されないバージョンを作成できる。これは必ずしも高度な攻撃の波を生むわけではないが、ほとんどの利益目的の攻撃者が好む「容易な標的」を見つけるコストを下げる。

Googleの報告は、ゼロデイエクスプロイト開発にAIが使われた証拠としては初めてである。見つかった脆弱性はロジックの欠陥であり、典型的な実装エラーではないことから、現代のLLMが従来のスキャナーが見逃す問題を発見できることが示唆される。これは時間とともに拡大する可能性のある新たな能力だ。

藤井氏の防御側への助言は実践的だ。攻撃者が侵入すると想定し、損害の制限に焦点を当てるほか、AI主導の偵察に利用できる情報を減らすことを勧める。また、脆弱性の発見が速くなるにつれて増加している未適用パッチのバックログ管理の重要性も強調する。興味深いことに、防御側は自社システムを攻撃者よりよく知っているという利点があるため、AIを積極的に使って脆弱性を見つけて修正すれば、防御側が先手を取れると指摘する。