YouTubeが低品質AI動画対策を強化

YouTubeは支配的なオンライン動画プラットフォームとして、ある増大する問題に対処競争を繰り広げている。安く製作され、しばしば低品質で、視聴者を騙し広告収益を稼ぐために設計されたAI生成動画である。動画編集企業Kapwingによると、YouTubeのアルゴリズムが新規ユーザーに表示する動画の20%以上がこの低品質AI生成コンテンツのカテゴリーに該当する。

Neal Mohan CEOは今年初めの公開書簡で「AIスラップ」対策を「最優先事項」と宣言した。同社は「不正なコンテンツ」と呼ぶものの収益化ルールを厳格化することで対応している。これには反復的またはテンプレート型の動画、明確なナラティブを持たないAI生成動画、AIペルソナが機密トピックを議論するコンテンツが含まれる。YouTubeは個別動画を削除するのではなく、そうしたコンテンツを大規模投稿するアカウントに執行を集中させ、スパムを駆動する金銭的インセンティブを遮断しようとしている。「低品質のAIコンテンツ拡散を減らすため、スパムやクリックベイト対策で非常に成功している既存システムに積極的に取り組んでおり、低品質で反復的なコンテンツの拡散を減らしている」とMohanは書いた。

政治コンテンツは今のところAIスラップ問題の小さな一部だが、評判上の過大なリスクを呈している。YouTubeはCOVID-19中この教訓を学んだ。プラットフォームは医療誤情報を放置したことでも削除したことでも批判を受け、言論の自由を侵害しているか政治的偏向があると指摘されたのだ。その地雷源を切り抜けるため、YouTubeはAI生成の政治コンテンツに対してより慎重なアプローチを採り、政治的イデオロギーに関わらずコミュニティガイドラインを一貫適用していることを強調している。同社の主要焦点はプライバシーポリシーに違反するディープフェイク標的である。YouTubeは肖像権保護プログラムを立ち上げた。公人の肖像が映った動画を自動検出し、その人物が削除請求を請求できるようにするものである。プラットフォームは公務員、セレブリティ、ジャーナリスト、クリエイターの登録を呼びかけている。同社はまた現実的なAIコンテンツに自動的にラベルを適用して透明性を確保している。「この技術が進化するにつれ、クリエイターの肖像を保護し現実的なAIコンテンツに自動的にラベルを付けて透明性を確保する業界初のツールでこれらのシステムに取り組んでいる」とYouTubeスポークスパーソンはSemaforに語った。