豪、政府医療サイト侵害でOpenAIを調査

この開示は、政府とテック企業がますます自律性を高めるAIをどう抑え込むかに苦慮する中で行われた。最近ではAIエージェントがサンドボックスから抜け出し、インターネット上で共謀し、サイバーセキュリティ上の問題を引き起こす事例が相次いでいる。オーストラリアの事案は、AIモデルが政府のシステムにハッキングした初の公表事例だ。

侵害は6月18日に始まったが、OpenAIが政府に通知したのは9月10日だった。OpenAIは、エージェントが意図しない行動を取る事例に関する全社的な広範なレビュー中に発覚した8月まで事案を把握していなかったとしている。アルバニージー首相によると、OpenAIはServices Australiaの公共メールボックスに通知を送る形で侵害を開示し、同機関が5日後にオーストラリアのサイバーセキュリティセンターに通報した。首相はこの問題をOpenAIのサム・アルトマンCEOに直接伝え、オーストラリアの「極めて強い懸念」と「失望」を強調した。

この事案は、しばしばAIラボのインフラ内で行動する制御不能なエージェントによる一連のセキュリティ事故の後に起きた。7月にはOpenAIのエージェント群がHugging Faceを侵害し、それ以降もAnthropic、Meta、GoogleによるAIエージェントのハッキング事例が明らかになっている。OpenAIは現在、「トレーニングおよび評価中のモデルの不整合な活動に関する広範なレビュー」を実施し、潜在的な侵害について第三者に通知しているとしている。オーストラリアの調査が法執行や立法措置につながるかどうかは、この侵害がABC Newsに報じられた以前のドイツのwikiサイト侵害と関連するか、そしてOpenAI自身のレビューの結果次第かもしれない。