テロ組織Boko HaramがChatGPTやClaudeなど主要なAIチャットボットを攻撃計画や武器開発に活用していることが、ケンブリッジ大学の研究で判明しました。
ISISが2023年からジェイルブレイク訓練を提供しており、安全フィルターが悪用を確実に防げなかったとされています。
研究者らは、AIモデルが化学・生物兵器の開発に活用される可能性を懸念しています。
何が起きたか
Boko HaramがChatGPT、Claude、Gemini、Grok、Meta AI、DeepSeekなどのAIチャットボットを使用し、攻撃計画や爆発装置の製造、兵器保守に活用していることが、ケンブリッジ大学の研究者Antonia Jülichによる研究で明らかになりました。同研究者が27人の元メンバーに57回インタビューを実施しました。
なぜ重要か
ISISは2023年以降、プロンプト工学とジェイルブレイク（安全フィルターの回避）の訓練を提供しており、Boko Haramの司令官たちをトレーニングしていました。安全フィルターが悪用を確実に防げなかったことが判明し、AIラボの自主規制が機能していないことを示唆しています。研究者らは、テロ組織が化学・生物兵器の開発にAI助言を求める可能性について警告しています。
注目点
Boko Haramの両派閥は専任のAI部隊を設置し、プロジェクターを使ってAIの使用方法を大画面で学習させました。ISWAP派はAIを使ってバイクでトレンチ（塹壕）を越える技術を習得しようとし、訓練中に18人が死亡、8人が成功しました。
OpenAIやAnthropicなどのAIラボは、AIモデルが危険な知識をより入手しやすくする可能性について長年警告してきました。しかし自主規制では十分でなく、テロ組織による実際の悪用が確認されたことは、理論的なリスクから現実の脅威への転換を示唆しています。
研究者らは、ChatGPTやClaudeなどのメジャーなチャットボットは主に既存の知識を検索しやすくするだけで、本当の懸念は生命科学などのより専門的なAIシステムの悪用にあると指摘しています。Boko Haramが両派閥で専任のAI部隊を設立し、組織的にAIを学習・活用している点から、テロ組織がAIを戦術的ツールとして本格的に組み込みつつあることが読み取れます。化学・生物兵器への活用可能性についての警告は、安全対策の強化が急務であることを示しています。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
イスラエルの新興企業DataAgent Ltd.は、顧客のKubernetesクラスター内の本番障害を修復するプラットフォームを発表し、1000万ドルのプレシード資金を調達した
SK海力士はSEMICON Taiwan 2026で、ベースダイに演算機能を組み込んだカスタムHBMの構想を発表
エヌビディアの決算は注目に値する一方で退屈な内容となり、統合された世界を避ける姿勢が反映された
AnthropicがNvidia支援のクラウド事業者Lambdaと、$35bnのクラウドコンピューティング契約を結んだ
消費者庁は24日、全国の消費生活センターに寄せられる年間約90万件の相談を生成AIで分析し、詐欺の手口や事業者の経営破綻の早期サインを検出すると発表した
最高裁判所は2027年度予算案にAI関連費用として約6000万円を計上
