AIToday
画像生成AI安全性・アラインメントWIRED AI掲載日時: 2026年11月2日 22:00

WIRED 性的ディープフェイク生成のAIアプリ網を報道

LINEで送る
WIRED 性的ディープフェイク生成のAIアプリ網を報道

3つのポイント

  1. 何が起きたか

    WIREDは、ペット肖像アプリViefurが400超の関連ドメイン・アプリ網の一部で、隠しインターフェースを密かに読み込み「寝室レイプ」などのテンプレートで露骨なディープフェイクを生成できると報じた。

  2. なぜ重要か

    これらのアプリは日常サービスを装うが、特定の条件下でユーザーが写真をアップロードし、露骨な性的画像や動画を生成できると研究者は指摘する。

誰に効くかアプリはストア掲載と有料プロモーションを通じてユーザーに届いたため、この発見はアプリストアの審査担当者と広告プラットフォームのモデレーターを注目の的にする。保護者や写真をアップロードされた人も、隠れたディープフェイク機能によるリスクに直面する可能性がある。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

調査はネットワークの起源を、サイトのコードにあったJavaScriptバンドルにたどった。そこには開発者が作成した全ドメインとアプリの設定リストがあり、アプリのパッケージ詳細、暗号鍵、Facebook広告トラッカーが含まれていた。セキュリティ企業Infobloxのスタッフ脅威研究者Maël Le Touz氏は約500の関連ドメインを特定し、それらが同じコードを実行し相互参照していると指摘した。Bouchard氏のドメイン登録分析では、アプリは2025年末頃に現れ始め、今年の春に急増した。一時は週約30のヌード化アプリやサイトが登録されていた。最も人気のあるアプリの一つDiffAIは2025年12月に作成され、Play Storeから10万回以上ダウンロードされた。ユーザーレビューには、CSAM作成用テンプレートがあり年齢確認も行われていないとあった。DiffAIはWIREDがGoogleに問い合わせる直前に削除された。AppleはWIREDの質問後、Viefurを含む19アプリを削除した。MetaはKeLing Technology Limitedが停止命令に従わなかったため2025年に広告を禁止し、その後ドメインに関連する数千の広告アカウント、ビジネスページ、ユーザー、ページに対処したと述べている。

よくある質問
アプリは露骨な機能をどう隠しているのか?
アプリはユーザーの位置情報や言語などの情報をサーバーに送り、サーバーが健全版か露骨版かを判断する。Metaのプラットフォーム上で関連広告をクリックしてダウンロードすることが引き金の一つとみられる。
アプリのダウンロード数は?
9月時点でGoogleのPlay Storeにあるアプリは合計35万回以上ダウンロードされ、DiffAIは10万回以上だった。
このネットワークの背後は誰か?
ウェブドメインとサービスの運営状況の調査によると、アプリとドメインは中国の開発者と香港登記のKeLing Technology Limitedが運営しているとみられる。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へヨイトキ、AI仲人の音声インタビューを全ユーザーに開放