Anthropic、UAE関与のAI悪用を指摘

Anthropicの報告書は、政府やプラットフォーム運営者が何年も懸念してきたタイプの影響工作に、具体的な名称とツールを与えた。工作はClaude AIを使い、約300の偽SNSアカウントを運用し、フロントNGOを設立し、国連向け証言を代筆し、欧州の議員や記者、国連関係者のファイルを構築した。Anthropicはこの活動をUAE政府関係者に高い確度で結びつけた。この帰属は、使われたシステムのAI開発者自身によるものだけに重みがある。UAEは2014年以降、Muslim Brotherhoodをテロ組織に指定し、政治イスラムへの対抗を地域政策の柱としてきた。米国はMuslim Brotherhoodのエジプト、ヨルダン、レバノン、スーダンの支部をテロ組織として扱っている。報告書はまた、このキャンペーンが発見したAI悪用の中で最も憂慮すべき例ではないと指摘した。Anthropicは別に、ロシアのサイバー攻撃、中国によるウイグル人監視、イエメン開発の武装ドローン・爆弾・ミサイル等のソフトを明らかにした。AI開発者にとっての焦点は、こうした国家関連の活動をどれだけ早く検知・報告できるか、そしてその開示が規制当局や企業顧客の悪用監視に対する期待を明確にするかどうかにかかっていそうだ。