GoogleのSynthID透かしは編集に耐えるが、AI偽造品は防げず

GoogleのSynthID透かしはAI生成画像に永続的なラベルを埋め込むという重大な技術的成果を示している。しかし記事は、透かしが何をできるかと、偽情報の問題が実際に求めるものとの間の根本的なずれを明らかにしている。AI生成コンテンツの規模は膨大である。Starling Labの推定では、人類が15億枚の写真を作成するのに149年を要したが、生成AIはわずか18ヶ月でその数を達成した。Googleだけでも、この数年間に100億以上のAI画像・動画を生成している。この指数関数的成長に対抗して、透かしは主要なAI提供企業（OpenAI、Runway、NvidiaがSynthIDの基礎技術を使用している企業を含む）による生成時にコンテンツにラベルを付けるために設計された防御手段である。

しかし記事は、技術的テストと専門家の解説を通じて、透かしが問題のごく一部にしか対応していないことを明確にしている。テストはSynthIDの堅牢性に実際の限界があることを示している。激しい圧縮と複数の編集には耐えるが、20パーセントのトリミングで除去されるには十分だ。より重要には、Googleは不可侵性を主張しておらず、透かしが敵対的攻撃に耐えるよう意図されていないと述べており、動機のある行為者は最終的にそれをバイパスする方法を見つけるかもしれない。Starling LabのAdam Roseが説明する実際の構造的問題は、「自分のモデルを実行できる人々」が、あらゆる企業ラベリング・システムの外側で完全に無ラベルのAI生成コンテンツを作成できることである。オープンソースモデルは無限に共有・改善でき、透かしなしで拡散でき、透かしだけではすべてのAI生成コンテンツをラベル付けすることが不可能にする。

二次的なユーザビリティの問題がこの課題を悪化させている。各企業の透かしに互換性がないため、画像がAI生成かどうかを確認するユーザーは、どのシステムがそれを作成したかを知る必要があるか、複数の検出器を実行してもなお何も見つからない可能性がある。GoogleはSynthIDチェックを1日約10回に制限してアビューズを防ぎ、アクセスを意図的に制限して攻撃ベクトルを防ぐ。記事は、透かしがより一般的になるにつれて、人々が無透かしコンテンツを本物と仮定するおそれがあり、それは「危険だが理解しやすい誤り」であると示唆している。専門家はすべての偽造品を検出しようとするのではなく、実際に重要な希少な真実のコンテンツを認証することに焦点を移すべきだと主張している。