AIToday
大規模言語モデルAI安全性・アラインメントThe Verge AI掲載日時: 2026年9月17日 1:00

Anthropic氏、28出会い系アプリのAIなりすまし

LINEで送る
Anthropic氏、28出会い系アプリのAIなりすまし

3つのポイント

  1. 何が起きたか

    AnthropicのChris Cronbaugh氏はSleuthconで、プリペイドアカウントがClaudeに1日10万件超のAPIリクエストを送り、約28の出会い系アプリのAIペルソナ網を発見した。

  2. なぜ重要か

    アプリは普通の出会い系サービスを装いながら会話層は自動化されており、課金してチャットしていた人は何に金を払っているのか知る術がなかった。

  3. 注目点

    講演後もアプリは米国の主要アプリストアで公開され続けており、Anthropicが共有した調査結果にストアと決済事業者が動くかが試される。Anthropicは業界横断の協力が必要だとしている。

誰に効くか出会い系アプリでコインやジェムに課金する一般利用者、主に30代半ばから後半の男性が晒されている一方、Anthropicが行動すべき当事者とするのはアプリストアのトラスト&セーフティチームと決済事業者だ。

この記事についてAIに質問する →

こういう要約が、毎朝あなたのメールに届きます。

よくある質問
この詐欺はどうやって稼ぐのか?
アプリはチャットを続けるためにコインやジェムの購入を求める。コインは実際の金がかかり、利用者は主に機械と話しているとは知らずに人間と話していると思って消費する。
Anthropicの講演後もこれらのアプリは利用可能だったのか?
はい。6月初旬時点で複数がGoogle Play StoreとApple App Storeで公開されていたが、大半はAnthropicの2026年9月の報告前に削除された。9月16日時点でKiraはまだ公開されており、Gore-Kormanik氏は他と同じコードベースを共有していると確認した。
このネットワークの背後は誰か?
Anthropicは中国語の内部資料と中国固有のインフラに基づき、中国拠点の主体によるものとしている。アプリは中国国内では動作せず、中国以外のアジアでは動作するものの収益化は停止されている。
The Verge AI元記事を読む
LINEで送る

「大規模言語モデル」の最新ニュースを、毎朝7時にお届けします

たとえば、いま届くならこの3本です

  • MozillaのFirefox Smart Window、Mistralのモデルで提供開始THE DECODER · 2時間前
  • TypeSafe AI、判定特化モデル「Jev」発表THE DECODER · 2時間前
  • Devin、ホスト型macOS開始Publickey · 2時間前

AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。

関連記事

次の記事へNvidiaレス・カーパス氏 ロボットデータ転機なし