テロ組織がChatGPTなど主要AI活用、攻撃計画や爆発装置に

何が起きたか

Boko HaramがChatGPT、Claude、Gemini、Grok、Meta AI、DeepSeekなどのAIチャットボットを使用し、攻撃計画や爆発装置の製造、兵器保守に活用していることが、ケンブリッジ大学の研究者Antonia Jülichによる研究で明らかになりました。同研究者が27人の元メンバーに57回インタビューを実施しました。

なぜ重要か

ISISは2023年以降、プロンプト工学とジェイルブレイク（安全フィルターの回避）の訓練を提供しており、Boko Haramの司令官たちをトレーニングしていました。安全フィルターが悪用を確実に防げなかったことが判明し、AIラボの自主規制が機能していないことを示唆しています。研究者らは、テロ組織が化学・生物兵器の開発にAI助言を求める可能性について警告しています。

注目点

Boko Haramの両派閥は専任のAI部隊を設置し、プロジェクターを使ってAIの使用方法を大画面で学習させました。ISWAP派はAIを使ってバイクでトレンチ（塹壕）を越える技術を習得しようとし、訓練中に18人が死亡、8人が成功しました。