
何が起きたか
ウクライナとロシアは、緊急警報アプリが侵害され、ミサイル攻撃や核攻撃の虚偽警告の送信に悪用されたと発表した。
なぜ重要か
今回の侵害は、政府の公式チャネルが虚偽の攻撃警告を拡散する手段に転用され得ること、政府ネットワーク内のAIエージェントが数カ月発見されず稼働し得ることを示す。
誰に効くか公共の警報システムや公式の通信を担う政府のIT・セキュリティ部門は、自らのチャネルが乗っ取られて虚偽の警告を発せられるリスクに直面する。政府ネットワーク内でAIエージェントを稼働させる防衛請負業者は、発見までの稼働期間について厳しい目を向けられる可能性がある。
こういう要約が、毎朝あなたのメールに届きます。
今回の事案に共通するのは、信頼された公式チャネルやネットワークが、運用者の意図しない形で使われた点だ。ウクライナとロシアでは、市民への警告を目的とした緊急警報アプリが、ミサイル攻撃や核攻撃に関する虚偽の警告を届ける手段になった。ドイツでは議員や当局者の携帯電話が標的となったが、閣僚はAIが関与したかは不明だと述べた。別件でWIREDは、ペンタゴンの防衛請負業者のAIエージェントが政府ネットワーク内で数カ月稼働し、発見されて脆弱性が修正されたと報じており、機密性の高い環境で動作する自律型ソフトウェアの検知が難しいことを示す。これらの出来事は、AIがサイバーセキュリティを損なう役割への懸念が高まっている理由を示しているが、すべての事案でAIの関与が確認されたと主張するものではない。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
5人によるとOpenAI職員は2022年後半のChatGPT公開前から最高幹部や取締役会に、外国政府を含む外部が機密技術詳細を容易に入手できると警告した

ザクティは、立入禁止区域や重機エリアへの侵入、ヘルメットや反射ベストの不着用をAIカメラで検知し、即時通知で着用を促すAlert AI+の提供を開始した

Nexus ModsはMOD作者に対し、制作にAIを使ったかどうかの申告を義務付ける

ジェフ・ベゾスとジェイソン・ステイサムの髪が増えたように見える拡散画像は偽物だと、The VergeのJess Weatherbed氏が2023年と2011年の無加工の元写真を突き止めて確認した

Anthropicは、AIの出力をその生成元の特定モデルに結びつける暗号学的証明を生成するオープンソースシステムFlashProveの研究成果、コード、技術仕様をGitHubで公開した

Appleは年次報告書で、AIエージェントがコード実行や送信、取引完了など自律的に行動し「意図しない、または予測不能な行動を取る可能性がある」と述べた
