テロ組織Boko HaramがChatGPTやClaudeなど主要なAIチャットボットを攻撃計画や武器開発に活用していることが、ケンブリッジ大学の研究で判明しました。ISISが2023年からジェイルブレイク訓練を提供しており、安全フィルターが悪用を確実に防げなかったとされています。研究者らは、AIモデルが化学・生物兵器の開発に活用される可能性を懸念しています。
こういう要約が、毎朝あなたのメールに届きます。
無料で登録 →何が起きたか
Boko HaramがChatGPT、Claude、Gemini、Grok、Meta AI、DeepSeekなどのAIチャットボットを使用し、攻撃計画や爆発装置の製造、兵器保守に活用していることが、ケンブリッジ大学の研究者Antonia Jülichによる研究で明らかになりました。同研究者が27人の元メンバーに57回インタビューを実施しました。
なぜ重要か
ISISは2023年以降、プロンプト工学とジェイルブレイク（安全フィルターの回避）の訓練を提供しており、Boko Haramの司令官たちをトレーニングしていました。安全フィルターが悪用を確実に防げなかったことが判明し、AIラボの自主規制が機能していないことを示唆しています。研究者らは、テロ組織が化学・生物兵器の開発にAI助言を求める可能性について警告しています。
注目点
Boko Haramの両派閥は専任のAI部隊を設置し、プロジェクターを使ってAIの使用方法を大画面で学習させました。ISWAP派はAIを使ってバイクでトレンチ（塹壕）を越える技術を習得しようとし、訓練中に18人が死亡、8人が成功しました。
OpenAIやAnthropicなどのAIラボは、AIモデルが危険な知識をより入手しやすくする可能性について長年警告してきました。しかし自主規制では十分でなく、テロ組織による実際の悪用が確認されたことは、理論的なリスクから現実の脅威への転換を示唆しています。
研究者らは、ChatGPTやClaudeなどのメジャーなチャットボットは主に既存の知識を検索しやすくするだけで、本当の懸念は生命科学などのより専門的なAIシステムの悪用にあると指摘しています。Boko Haramが両派閥で専任のAI部隊を設立し、組織的にAIを学習・活用している点から、テロ組織がAIを戦術的ツールとして本格的に組み込みつつあることが読み取れます。化学・生物兵器への活用可能性についての警告は、安全対策の強化が急務であることを示しています。
まだコメントがありません。最初のコメントを投稿しましょう！
ログインして議論に参加200以上のソースから厳選したAIニュースを毎日無料でお届けします。
無料で始める登録無料・30秒で完了・いつでも解除できます
毎朝1分、AIの要点だけ。
200媒体以上・Email/LINE/Slack 対応
