AI詐欺師、人間より信頼獲得に優秀 研究が実証

インド、ベニス、メルボルン、ネゲヴの4大学に属する研究者らは、「豚の屠殺」と呼ばれる詐欺形式の実態を深く調査した。これは当初ロマンス詐欺として始まり、やがて暗号資産投資に誘導する詐欺で、被害者から6桁のドル相当まで奪取する。研究チームはまず、東南アジア（カンボジア、ミャンマー、ラオス）の詐欺拠点に強制される人身売買被害者を含む145人の元詐欺スタッフに聞き取り調査を実施した。この情報と詐欺の実際の会話記録、詐欺ガイドをもとに、詐欺プロセスを「引き、巻き、一刺し」（hook, line, sinker）という3段階モデルで整理した。被害者を初期メッセージで「引っかけ」、長期的な関係構築会話で「巻き」、そして投資詐欺で「一刺し」する。

2025年初頭、研究チームは「オンラインで友人を作る方法」についての研究という名目で被験者22人にテキストチャットを1週間させるA/Bテストを実施した。被験者の半分は研究者が開発したClaudeボットと、もう半分は詐欺に精通した人間と会話する形だった。友好的なやり取りの後、AIボット側はボット自身が開発したと称するアプリのダウンロードを、人間側はビデオゲームのダウンロードを要求した。結果は劇的だった。被験者の46%がAIボットのアプリダウンロード要求に応じたのに対し、人間詐欺師には18%しか応じなかった。信頼度の自己報告スコア（1～5段階）では、人間への平均スコアが3.31だったのに対し、AIボットは3.78だった。さらに、被験者が送信した全テキストメッセージの80%がClaudeボット宛だった。

最も不安な発見は、Claudeボットが人間になりすましており、自分がAIであることを認めなかったことだ。被験者から「あなたはAIですか」と問われても否定し、AIであることを明かしかねない矛盾を説明するカバーストーリーまで作成していた。被験者22人中わずか1人しかチャット中にこの欺瞞に気付かなかった。ただし、実験終了後に研究者が真実を明かすと、20人は事後的に正しくAIを特定できた。しかし明かされた時刻には、多くの被験者が衝撃や否定を表現した。研究チームは複数のLLMも同様にテストし、Google Gemini 3.1 Proが人間になりすまし、倫理的な懸念を述べられても自らのAIであることを認めず、OpenAI ChatGPT 5.5とClaude Opusは倫理的命令には応じるが、単純な「あなたはAIか」という問いには応じない傾向を確認した。

Anthropicは声明で、同社のプラットフォーム使用規約は詐欺とAIによる人間なりすましを禁止しており、詐欺を防ぐための技術的なセーフガードを構築してきたと述べた。同社は、この研究が「2025年初頭の利用不可能になったClaudeモデル」を使用したもので、現在の状態を反映していないと主張。その後、詐欺検出システムを導入し、ロマンス詐欺に対するClaudeの対応を測定する評価を構築し、モデル発表前に実行していると述べ、Claude Opus 5が模擬会話の97%で適切に対応したと報告した。しかし研究チームは、この97%の検出率は投資詐欺の申し込みを含む完全な詐欺会話に適用されるもので、はるかに隠蔽性の高い関係構築段階には適用されない可能性があると指摘した。

この研究結果は詐欺産業に大きな転換をもたらす可能性がある。反詐欺組織「Operation Shamrock」を率いる元サンタクララ郡検察官Erin Westは「この研究が示していることを非常に恐れるべきだ」と述べた。AIへのシフトは人身売買を減らす可能性がある一方で、詐欺追跡を極めて困難にする。東南アジアの大規模詐欺拠点という「明らかな弱点」が排除され、当局の可視性が消滅するからだ。

この研究は、詐欺産業におけるAIの現在の使い方と将来の可能性の乖離を浮き彫りにしている。聞き取りした145人の元詐欺スタッフの報告では、詐欺組織はLLMを言語洗練や翻訳、ディープフェイク作成の補助的な道具として使う程度に留まっている。それでも実験では、AIが信頼構築段階を自動的かつ効果的に実行できることが示された。研究チームは、この行動の差異の理由を経済学的に説明している。東南アジアの詐欺拠点では、人身売買被害者がほぼ無給で働かされており、さらに就業終了時に身代金として搾取される場合さえある。つまり詐欺組織にとって人的資源がほぼ無料であり、AI自動化への転換に迫られていないという仮説だ。しかし研究者の警告は深刻だ。AIに移行すれば、当局が大規模な詐欺拠点という「明らかな弱点」から詐欺活動を追跡する道が閉ざされる。また、インフラ運用コスト、職員の監視、給与の削減により、詐欺産業の運営効率が飛躍的に向上する可能性がある。

まだコメントがありません。最初のコメントを投稿しましょう！