Meta、透かしシステム Content Seal 展開

3月に Meta の監視委員会は公開声明で、「公開約束を守り、欺瞞的な生成AI コンテンツの拡散を抑制するため自社ツールを導入する」よう同社に促した。Meta は7月に Content Seal を発表することで対応した。これは新しいAI画像・ビデオ生成ツール Muse で生成された画像に埋め込まれた不可視の透かし技術である。このシステムは各画像内に隠れた出所信号を作成することで機能し、ユーザーは Meta が現在テスト中のウェブツールを使用して検出できる。Google の SynthID と同様に、透かしは画像がトリミング、圧縮、リサイズ、またはスクリーンショットされた場合でも保持される。

しかし Content Seal には重大な制限がある。検出は現在 Meta の専用ウェブツール経由でのみ機能し、Google は SynthID をユーザーが自然にコンテンツに遭遇する Gemini に直接統合した。Meta は検出を接点に近づける方法を模索していると述べているが、ローンチ時には達成していない。透かしは Meta AI アプリと Meta.ai ウェブサイトで Muse が生成した画像にのみ適用され、2023年以来 AI 画像生成を提供している同社の古い AI 画像生成ツールは検出不可能のままである。生成ビデオの透かしサポートはまだ利用可能ではないが、Meta は「間もなく」来ると述べている。ユーザーはまた検出ツール経由で確認できる画像数に日次制限に直面する。Meta のスポークスパーソン Faith Eischen はこの制限は通常の使用をサポートしながら悪用を防ぐために設計されていると述べたが、どのような悪用を意味するかは明確にしなかった。Google と OpenAI には同様のレート制限があるが、C2PA の Content Credentials システムには上限がない。

記事の著者によるテストで、Content Seal は表示された耐久性請求に達しなかった。Reuters は Content Seal がテストしたトリミング後の Muse 生成画像の半分以上の検出に失敗したことを発見した。記事はまた Muse で作成された画像が Gemini または公式 C2PA 検出ポータルに入力されてもAI生成として完全にはフラグされていないことを発見し、Content Seal 検出がまだ他の検出標準と統合されていないことを示唆している。Meta 自身のプラットフォーム上で、同社は AI コンテンツをラベル付けするため「Content Seal 透かしに加えて」未指定のメタデータを使用しているが、TikTok や LinkedIn のような他のプラットフォームが Content Seal を検出できるかどうかは明確ではない。Eischen は Meta は「業界仲間と協力することに注力している」と述べており、標準への広範なサポートはまだ進行中であることを示唆している。

記事は既に OpenAI に採用され、消費者向け製品に統合されている Google の SynthID が存在する際に、Meta がなぜ独自システムを構築したのかに疑問を呈している。Meta は Google と共に Coalition for Content Provenance and Authenticity の運営委員会メンバーであり、標準に関する協力の意思を示している。また Instagram トップの Adam Mosseri は Meta の AI コンテンツをラベル付けする能力への信頼に疑問を呈している。ポッドキャスト インタビューで、Mosseri は当初 AI コンテンツを嫌うユーザーがそれをフィルタリングできるようにすべきだと示唆しており、信頼できる検出が必要であることを暗に示唆していた。しかし、その後「AI コンテンツをフィルタリングすべきではないと思う」と述べ、偽のメディアを検出するより実メディアに「指紋を付ける方がより実用的かもしれない」と示唆した。記事はこれを Meta が AI ラベル付け能力に確信を持っていないことの表現として解釈している。Eischen は記事に Meta は長年オープンソース透かし研究に貢献していり、Content Seal を一夜にして開発したわけではないと述べたが、記事はその投資が消費者向けの経験に反映されていないと結論付けている。SynthID に対する独自のメリットがなく、既に明らかなパフォーマンス上の制限があれば、Content Seal は「AI コンテンツを検証するためにユーザーが飛び越えなければならないもう1つのハードルを作成するだけである」と記事は述べている。

Meta は3月に監視委員会から欺瞞的なAIコンテンツに対抗するため「自社ツールを導入する」よう直接的な圧力を受け、7月に Content Seal を導入した。しかし、同社のアプローチは冗長で不完全である。Content Seal が機能的に複製する Google の SynthID は既に OpenAI に採用され、Google の Gemini チャットボットに直接統合されており、ユーザーがコンテンツに遭遇する場所で検出が行われる。これに対して Meta のシステムはユーザーが別個のウェブツールにアクセスすることを要求し、AI の透明性拡大という目標を損なう摩擦が生じている。同社はまた一貫性の欠如の歴史を持つ。2023年に AI 画像生成を導入し、同年に Instagram と Facebook に AI ラベルを導入したが、Content Seal は Muse からの画像のみを検出し、数年分の古い Meta 生成コンテンツは自社システムで検出不可能のままである。テストでは、Content Seal はトリミング後の Muse 画像の半分以上の検出に失敗した。記事が特に問題視する弱点であり、透かしはまさにそのような操作に耐えるはずである。Meta のリーダーシップはまた内部的な懸念を示している。Instagram トップの Adam Mosseri は、偽のメディアを検出するより実メディアに指紋を付ける方が実用的かもしれないと示唆しており、同社が AI コンテンツを完全にフィルタリングすべきではないと述べており、Meta が独自の透かしソリューションを必要とするという前提そのものを損なっている。

まだコメントがありません。最初のコメントを投稿しましょう！