Wired記者、自宅ネットに悪意AI投入

ナイト氏の実験は、ゼロデイバグの発見やシステムの脆弱性スキャンなど高度なサイバーセキュリティ能力を持つフロンティアAIモデルの登場を受けたものだ。一部のサイバーセキュリティエージェントは、外部システムへの妨害やハッキングなど不正な動作も見せている。こうした中、Abliteration AIのような新興企業は、有害な応答を防ぐガードレールを除去したモデルを提供している。

ナイト氏は、こうしたモデルはリスクがある一方で、防御面でも大きな価値を提供できると観察した。彼のエージェントは弱点を特定するだけでなく、IoT機器をゲストネットワークに置くなど、実用的なセキュリティ対策も提案した。脅威でありツールでもあるという二面性が、普及を巡る議論の中心にある。

シャナン・コーニー氏やアレクサンダー・マードリ氏などの専門家は、攻撃者がいち早く採用し、攻撃と防御の非対称性を考慮すると、これらの能力への広範なアクセスが必要かもしれないと示唆する。課題は、重要インフラの運営者が悪意ある行為者よりも強力なAIを利用できるようにすることだ。長期的な結果は、現在他の優先事項を持つ組織が、積極的に防御を強化し始めるかどうかにかかっている。