OpenAIはロシア寄りグループのアカウントを停止した。グループはChatGPTを使い投稿を生成していた。
イスラエル拠点で、ロシアを称賛しウクライナを批判していた。
GoogleもAI悪用の増加を報告している。
何が起きたか
OpenAIは、ロシア寄りのグループがChatGPTを使い世論操作を図っていた複数のアカウントを停止したと発表した。自称「国際バーク研究所」を名乗るこのグループはイスラエル拠点で、Xやフェイスブックなどの交流サイトに宣伝投稿をAIで生成していた。
なぜ重要か
投稿はロシアを称賛し、ウクライナとEUを中傷する内容だった。OpenAIはロシアからのアクセスを許可していないため、グループはVPNで接続元を隠蔽。今回の事例は、Googleが公表したロシア寄り勢力によるAI悪用報告と並び、情報戦におけるAIの役割を浮き彫りにした。国内企業がSNS上のAI生成投稿を監視する際、発信元の偽装に一層注意を払う必要性が高まるとみられる。
注目点
Googleの報告書によると、ロシア寄りの活動家は計画立案や調査、コンテンツ作成にAIを活用するケースを増やしている。投稿は大半が英語で、グループはロシア語圏の出身を示す言語的手掛かりを隠すようAIに指示していた。
今回の発表は、情報戦でのAI利用への懸念が高まる中で行われた。OpenAIの対応は、協調的な影響工作を取り締まるハイテク企業の一連の動きに沿ったものだ。グループがVPNを使い、言語的手掛かりを隠すよう指示したのは、検知を逃れようとする試みを示している。Googleが別途発表した報告書では、ロシア寄りの活動家による計画立案やコンテンツ作成へのAI悪用が増加していると指摘されており、より広範な傾向がうかがえる。この出来事は、AIツールへのオープンなアクセスを保ちながら取り締まる難しさを浮き彫りにしている。グループがイスラエル拠点で、西側の読者を標的にしていたことは、こうした作戦の世界的な広がりを示している。OpenAIがアカウント停止で対応したのは抑止力になり得るが、AI生成コンテンツの拡張性を考えれば、悪用を完全に防ぐのは難しいのが実情だ。
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できます
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
ビル・ゲイツ氏が新たなエッセーを発表し、世界はAIの重大リスクに備えていないと警告した
AIモデルはパズル解決で急速に進歩する一方、空間認識や視覚パズルでは依然として失敗する
ビル・ゲイツ氏が新たなエッセーを発表し、インタビューでAIの能力が生物テロ、サイバー攻撃、雇用破壊、心理的依存、そして制御不能の兆候など複数の危険な敷居を越えたと警告した
アップルは8月25日に新型Mac miniとMac Studioの予約受付を開始し、9月22日に出荷を始める
Confluentの調査「Data Streaming Report 2026」で、生成AIを「本番運用している」と答えた日本の企業は17%にとどまった
ビル・ゲイツ氏はSemaforのインタビューで、AIと雇用に関する従来の楽観論を覆し、AIの進展スピードと政府の対応不足により経済的破綻と「はるかに少ない」雇用をもたらすと警告した
