GoogleのSynthID検出ツールが世界開放

GoogleのSynthID検出ツールは、自社ツールに加えOpenAIやAppleといったパートナーの透かしも、ログイン必須の一つのウェブサイトで確認できるようにした。利便性は確かにあるが、設計上の選択には緊張関係が表れている。GoogleのエンジニアはArsに対し、SynthID除去ツールの開発に悪用されるのを防ぐには利用制限が必要だと語っており、正確な件数が曖昧なのは、よく似た画像を複数確認していると早めにロックアウトされる仕組みによる可能性が高い。これは回避ワークフローを調整しようとしている兆候になり得る。

この追跡ツールの範囲は本質的に限定的だ。プロバイダーによっては別の透かし技術を使い、まったく使わないところもある。個人のハードウェアで動かせるオープンウェイトモデルは、簡単なメタデータ表示すら含まない、ますますリアルなAIコンテンツを生成する。つまり多くのAIコンテンツはSynthIDツールでAIと識別されず、サイトにもその旨の免責事項が表示される。Googleの取り組みにもかかわらず、誰かがSynthIDを除去する方法を見つけ、既存のAIコンテンツがより本物らしく見えるようになる可能性も十分ある。完璧なシステムではないが、インターネット上に氾濫するAI画像に対してプロアクティブな透かしに頼ることの現実だ。

別の道は、GoogleのPixelスマホなどごく一部のデバイスが行っているように、C2PAのような暗号技術を使って本物の画像・動画・音声を撮影・作成時にラベル付けする方法だ。それまでの間、SynthIDはAIフェイクを見分ける最善の手段だが、その有用性は、クォータとログインの壁が悪意ある者によるシステムの探りを防げるかどうかにかかっている。