Meta、透かしシステム Content Seal 展開

Meta は3月に監視委員会から欺瞞的なAIコンテンツに対抗するため「自社ツールを導入する」よう直接的な圧力を受け、7月に Content Seal を導入した。しかし、同社のアプローチは冗長で不完全である。Content Seal が機能的に複製する Google の SynthID は既に OpenAI に採用され、Google の Gemini チャットボットに直接統合されており、ユーザーがコンテンツに遭遇する場所で検出が行われる。これに対して Meta のシステムはユーザーが別個のウェブツールにアクセスすることを要求し、AI の透明性拡大という目標を損なう摩擦が生じている。同社はまた一貫性の欠如の歴史を持つ。2023年に AI 画像生成を導入し、同年に Instagram と Facebook に AI ラベルを導入したが、Content Seal は Muse からの画像のみを検出し、数年分の古い Meta 生成コンテンツは自社システムで検出不可能のままである。テストでは、Content Seal はトリミング後の Muse 画像の半分以上の検出に失敗した。記事が特に問題視する弱点であり、透かしはまさにそのような操作に耐えるはずである。Meta のリーダーシップはまた内部的な懸念を示している。Instagram トップの Adam Mosseri は、偽のメディアを検出するより実メディアに指紋を付ける方が実用的かもしれないと示唆しており、同社が AI コンテンツを完全にフィルタリングすべきではないと述べており、Meta が独自の透かしソリューションを必要とするという前提そのものを損なっている。