GoogleとOpenAIが相次いで中国発とみられるAIを悪用した詐欺・世論操作ネットワークを摘発・遮断し、米当局と連携した初の共同訴訟も提起されました。

何が起きたか

Googleは6月12日、中国の「Outsider Enterprise」というサイバー犯罪ネットワークを相手に訴訟を提起しました。同ネットワークはGeminiを使ってアメリカ人数十万人に対する金銭詐欺を実行し、131個のソフトウェアキットで偽のGoogle・YouTube・郵便局・ニューヨーク州のE-ZPass（有料道路システム）サイトを構築、5月の2週間で250万件のメッセージを送信して9,000の偽サイトと100万以上の詐欺URLにアクセスさせていました。同時期、OpenAIは中米に関わる政策議論の操作を試みた中国発と主張される2つのChatGPTユーザーのクラスタを禁止しました。

注目点

Googleはドメイン差押えやアカウント凍結などの法的措置をとるための差止命令を求めており、Googleは損害が数百万ドル規模に及ぶと述べています。OpenAiのベンチマークではこれら2つの操作は「Category 1」スコアにとどまり、自分のアカウント以上に拡散しませんでしたが、将来のより大規模な影響操作の兆候として監視される可能性があります。