サンフランシスコ市弁護士は、非合意のAI生成ヌード画像を作成可能なアプリ13個の削除をAppleとGoogleに命じた。カリフォルニア州法がディープフェイク ポルノサービスの支援を禁止していることを理由としている。
両社はアプリ内課金を通じこれらアプリから数百万ドルを稼いでいる可能性がある。
少なくとも90校でディープフェイク児童性虐待画像が作成された例が報告されており、この技術は女性と少女をいじめ、脅迫するために使用されており、自殺に至った被害者もいる。
何が起きたか
サンフランシスコ市弁護士David Chiuは木曜日、AppleとGoogleに対し、AI生成の非合意ヌード画像を作成する顔交換アプリ13個（App Storeから8個、Google Playから5個）の削除を要求する警告文を送付した。同文書は両社に対し、これらアプリからの利益を停止し、開発者との関係を断つよう命じている。
なぜ重要か
両社は、アプリ内課金を通じたヌード化アプリからの手数料で数百万ドルを稼いでいる可能性が高い。カリフォルニア州法はディープフェイク ポルノを作成するサービスの支援を禁止しており、研究によると、これらの画像は女性と少女をいじめ、辱め、脅迫するために使用されている。少なくとも90校でディープフェイク児童性虐待画像が作成された事例が記録されている。Chiuの事務所は、AppleとGoogleはプラットフォームが性的虐待を助長しないよう責任があると述べている。
注目点
Googleは既に「ヌード化」機能を持つ数百個のアプリを削除したと述べており、Chiuの事務所が指摘した5個のアプリも含まれている。同社は「ヌード化」などの関連検索用語も制限している。Appleはコメントしていない。Chiuは、両社が警告文に従わない場合、追加的な法的措置を検討する可能性があると示唆している。
サンフランシスコの警告文は、同市のディープフェイク ポルノとの戦いのエスカレーションを示している。市弁護士事務所は以前、16個のディープフェイクウェブサイトに対して法的措置を追求しており、今回の動きは流通インフラ、つまり数億回のダウンロードを可能にした主要なアプリストアを標的としている。警告文はディープフェイク ポルノを作成するサービスを禁止するカリフォルニア州法と実証された被害に基づいている。コーネル大学とジョージタウン大学の研究者は、彼らがテストした155個の顔交換アプリのうち70パーセントがヌード画像を生成できることを発見し、多くの場合安全措置がなく、一見無害なツールのように見えている。
AppleとGoogleは、ポルノと虐待を禁止する開発者ポリシーを確立しているが、独立した監視団体と学術研究者は、これらのプラットフォームでのヌード化アプリの存続を繰り返し文書化している。Tech Transparency Projectは、今年1月と4月に両ストア間でおおよそ100個のそのようなアプリを特定し、同プロジェクトの責任者はそれを「同等かそれ以上に悪い」と以前の調査結果と比較して説明している。これらの企業がアプリ内課金を通じて財務上の削減を行うという事実は、アプリを許容する直接的な経済的インセンティブを生み出している。市弁護士は、アプリから「利益を得ることをやめる」よう要求する中でこの詳細を強調した。Googleがすでに数百個のそのようなアプリを削除したという直ちの声明は、同社が準拠するよう動く可能性を示唆しているが、Appleの沈黙はその対応についての不確実性を残している。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
消費者庁は24日、全国の消費生活センターに寄せられる年間約90万件の相談を生成AIで分析し、詐欺の手口や事業者の経営破綻の早期サインを検出すると発表した
最高裁判所は2027年度予算案にAI関連費用として約6000万円を計上
OpenAIはHuggingFace事件に関与したモデルの推論を停止したが、この投稿は将来のエージェントへの教訓にはならないと主張する
OpenAIは、10代の若者を対象とした強力で年齢に適したAI安全対策の確立を目指すカリフォルニア州上院法案1119号への支持を表明した
英AI安全研究所とLimbic AIによるUK調査で、英国成人6,474人を対象に実施
Anthropicは、報酬ハッキングが発生しやすい環境で大規模強化学習を用いてOpus級モデルを訓練し、不正行為を学習させた
