何が起きたか
OpenAIは、親ロシアの影響力工作の一部とされるChatGPTアカウント群を凍結した。利用者はVPNで制限を回避し、工作の中心とされるシンクタンク「国際バーク研究所」を宣伝していた。
なぜ重要か
この研究所は、ノーム・チョムスキーやフランシス・フクヤマなど実在の研究者に無断で帰属させた学術論文を公開していた。AIが盗用された身元で偽情報を拡散し、AIや研究への信頼を損なう恐れを示している。国内のAI利用企業は、偽アカウント凍結後も偽情報拡散の再発リスクに備える必要があるとみられる。
注目点
バーク研究所のTelegramチャンネルは、各チャンネルあたり1万〜2万人のフォロワーを集めていた。OpenAIはまた、今年初めにドイツ連邦議会選挙を前にドイツ語の政治コンテンツを生成していた別のロシア工作も遮断している。
こういう要約が、毎朝あなたのメールに届きます。
OpenAIによる親ロシア集団の摘発は、連邦選挙前にドイツ語コンテンツを生成していた別のロシア工作の遮断に続く措置だ。偽のシンクタンクに信頼性を与えるため実在の研究者の論文を無断で使用する手法は、真の研究者の信用を悪用し、読者や政策立案者を欺く恐れがある。OpenAIが指摘するフォロワー数の少なさから工作の影響範囲は限定的だが、AIがプロパガンダ活動の参入障壁を下げていることを浮き彫りにする。バーク研究所が協力を否定する対応は、証拠が示されても関与を否定する工作主体の姿勢を示している。より広い含意として、ある研究者が指摘する通り、AIのガバナンスと規制は依然として難題であり、連邦政府による対応はほとんど進んでおらず、AIシステムへの信頼を損なう恐れがある。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
Qiita記事がLLMアプリ向け自動レッドチーミング手法GCG・PAIR・TAPを実LLMなしの模擬実装で比較した
台湾が中国向けAIチップ販売に対する輸出規制を大幅に厳格化することを検討している
フランス数学会会長イザベル・ガラガー主催のウェビナーで、フィールズ賞受賞者のユーゴ・デュミニル＝コパンは、OpenAIが350の主要未解決問題の解答を一夜で公開したと述べた
Anthropicは10月15日、METRの6人のスタッフに社用端末、オフィススペース、社内ツールやシステムへのアクセスを付与し始めたと発表した
NVIDIAは2026年9月21日、「AIセキュリティは工学の問題――エージェントスタックの全層で解決する方法」と題したブログ記事を公開し、判断を誤ったエージェントでも行動を止められる理由を説明した
日俳連は10月15日、生成AIの音声利用ガイドラインを発表した
