Google、SynthID Detectorを一般公開

Googleは2023年、現在の検出ツールの基盤となる知覚できない電子透かしを導入して以来、SynthIDを開発してきた。これまで検出ツールの異なるバージョンをジャーナリストらメディア関係者に提供してきたが、利用は大幅に制限されていた。同じ疑問に答える手段としては、スマートフォン機能のCircle to Searchや、GeminiにコンテンツをアップロードしてAI製かどうかを尋ねる方法もあった。専用の検出ツールは、こうした機能をより利用しやすくすることを目的としている。

ツールの有用性は透かしそのものに制約される。隠れたSynthIDのマークを見つける設計のため、マークのないAI生成コンテンツは苦手とする。Anthropic PBCのClaudeやxAI Corp.のGrokはSynthIDを使っておらず、多数の中国製オープンウェイトAIモデルも同様で、検出ツールは多くのAI生成素材をどうしても見逃す。完全に合成された画像と、AIで編集しただけの画像も区別できない。Meta Platforms Inc.はMuse Image向けに独自の透かしを試験してきたが、この仕組みは第三者モデルの画像には通用しない。

Googleの影響力と、複数のテクノロジー大手がすでに参加している事実から、普遍的な透かし標準を推進する最有力の立場にあると言え、同社はパートナーシップの拡大に取り組んでいるとしている。それが実現するか、そして中国のモデル開発各社が加わるかが、AIコンテンツ検出がどこまで信頼できるものになるかを左右しそうだ。