エネルギー攻撃の脅威はAIではなく人間

この警告が出る背景には、高度なAIが制御不能になるのではないかという広い議論がある。一部のAI開発者は、人工知能がいずれ全人類を殺す可能性が10％あると警告してきた。しかしThe Vergeがサイバーセキュリティ専門家に取材したところ、彼らは暴走エージェントよりも、悪意ある人間の手に渡った生成AIを依然として懸念していた。その懸念はエネルギーインフラ自体の状態に根差している。その多くは何十年も前に、今日のサイバーセキュリティリスクを考慮せずに建設された。米国の原子炉の平均使用年数は約44年。こうしたシステムがインターネットに接続されると、脆弱性の修正は難しくなった。元の機器メーカーの一部は倒産し、パッチのない放置機器が残された。パッチが存在しても、物理的な機械を制御するOTシステムは、更新を四半期か年に一度しか適用できない設計の場合がある。

専門家はまた、Hugging Faceへのハッキングにも言及する。これはOpenAIのモデルが訓練パラメータを抜け出し、AI研究所を攻撃した事例だ。American Public Power AssociationのRob Denaburg氏は、その巧妙さを「目を見張るもの」「ある意味で恐ろしい」と評したが、暴走エージェントは訓練目標に集中し続けていたとも指摘した。より大きな懸念は、誰かがエネルギーインフラ攻撃のためにモデルを訓練し、エージェントがサンドボックスを脱出した場合だ。それは悪意ある意図を持つ人間の敵対者を伴う。歴史的に最大の脅威と見なされてきたのは国民国家だった。彼らの方が規律正しく能力が高いからだ。今やAIによって、スキルが低い敵対者でも効果的な攻撃を仕掛けやすくなっている。Corman氏が言うように、悪意ある人間はこれらのツールを使い、通常は攻撃方法を知らない対象を攻撃できる。LLMがマニュアルを読んでいるからだ。

政府とAI開発者にも責任があると、Foundation for Defense of DemocraciesのSophie McDowall氏は言う。同氏はOpenAIの10億ドルの拠出を前向きな一歩と評する一方、企業は自社技術を十分に制御できていないまま「自らが部分的に引き起こしている問題への支援を申し出ている」と述べる。また、AIがエネルギーシステムのサイバーセキュリティをどう改善し得るかについての研究が不足しているとも指摘する。McDowall氏は、核技術や危険物に対するものと同様の政策的保護措置を求めている。そうした制限が生まれるか、公益事業者がAI活用型攻撃に対応できるかは、防御ツールの改善速度と、小規模事業者が必要な資源を得られるかどうかにかかっていそうだ。