Metaに児童虐待AI広告の停止命令 サンフランシスコ市

今回の警告書は、Metaがこれまでnudifyアプリ対策として数十万件の広告削除や香港企業への訴訟などの措置を講じてきたにもかかわらず、なおAI生成の児童性的虐待広告が繰り返し掲載されていることを受けて出された。WIREDが8月初めに報じた53件の広告の後も、TTPの9月8日の報告書発表後も新たな広告が同じ児童を映して配信されており、広告審査の自動・手動レビュー体制が機能していない実態が浮かび上がる。

市側は単なる過去の失敗の特定ではなく、広告を通じた児童の性的搾取を防ぐシステムの構築と、NCMECへの報告を含む法的義務の履行を求めている。Metaが28日以内に広告審査の穴やエスカレーション手順をどう説明するか、また管轄権を争う姿勢を維持するかが焦点となる。対応次第では、他の自治体や規制当局にも同様の動きが広がる可能性がある。