詐欺師を翻弄するAIボット35万体を運用

各国政府は国境を越えて活動するサイバー犯罪者の取り締まりに一貫して苦戦しており、そのことが企業と研究者の双方を代替手段としての自動化へと向かわせてきた。Apateはその流れを示す最も明確な例の一つだ。2年間の開発を経て、同社のボットは電話、チャットグループ、テキストメッセージで活動し、通信会社の支援を受けて銀行にサービスを販売しているという。ボットの価値は二つある。詐欺師が本物の人間に費やすはずだった時間を奪い、詐欺URLやマネーロンダリング用アカウント、銀行口座情報などのデータを生成し、より広範な情報共有に役立てられることだ。同じ論理は、ハッカーをおびき寄せるために長く使われてきた偽システム、ハニーポットにも表れている。ETH Zurichの博士研究員Mark Veroによれば、オープンソースのハニーポット提供者は、罠を本物らしく見せるためにLLMを組み込むようになってきた。同僚との研究で、LLMを搭載したハニーポットは、より予測しやすいものよりもAI攻撃者の注意を大幅に長く引きつけ、攻撃者が偽物と指摘する頻度もはるかに低かった。ただし、Apateのボット群があっても、サイバー犯罪者は毎年数十億件のメッセージや通話を仕掛けており、最も巧妙な組織は産業規模の詐欺サイトを運営している。AIは問題を解決するのではなく、新たな防御手段を加えているように見える。