Meta、児童虐待コンテンツ3320万件に対応

今回の展開は、Metaが児童安全をめぐり長年受けてきた圧力の後に行われた。訴訟や議員からの批判、29の米国州が関与する児童安全訴訟の和解のため最大180億ドルを支払う8月の合意などが含まれる。新たな検知ツールに加え、Metaは今年、Meta AIの保護者向け管理機能、WhatsAppの10代向けアカウント、子どもがInstagramで自傷コンテンツを検索した際の保護者への通知など、複数の児童安全機能を導入した。9月にはWhatsAppが保護者向けの管理機能を拡充し、10代のChannels利用を制限し、ステータス更新を閲覧できる相手を管理し、子どもをグループに追加できる相手を決められるようにした。

新しいAIツールは、Metaが悪質な行為者が最近使ったとする手口を狙う。無害に見えるが、他所でホストされる違法コンテンツへの入り口として機能する広告だ。広告自体に違法素材が含まれない可能性があるため、Metaは広告の内容だけでなく誘導先も見ており、規則に違反する遷移先をブロックできると説明する。別の「レッドチーミングAIエージェント」は、悪質な行為者が悪用し得る弱点についてMeta自身の安全対策を検証し、他のシステムは復帰したアカウントや以前のシステムが見逃した可能性のあるコンテンツを早期に捕捉することを目指す。

結果は、悪質な行為者が手口を変える中で、これらの遷移先ベースのチェックとレッドチーミングの取り組みが追いつけるか、また広告型のシグンポスティングが広がるよりも速く減らせるかにかかっている可能性が高い。Metaの信頼・安全チームにとっての尺度は、新たなシグナルが追加される中で、ユーザー通報前に検知されるコンテンツの割合が高止まりするかどうかだ。2026年上半期の全体では97%超だった。