Anthropic は、欧州連合の AI 法の透明性要件を満たすために Claude のテキスト出力に目に見えない透かしを追加する方法について説明した。
このシステムは Google DeepMind のオープンソース SynthID-Text テクノロジーを使用しており、生成時に微妙でランダムな単語選択を行うことで検出不可能なパターンを埋め込み、復号化キーを持つ者によってのみ検証可能である。
Anthropic は、透かしがユーザーへのコストや品質への影響を与えないと述べており、Google や OpenAI を含む他の主要 AI 企業も同様に人工生成コンテンツにマークを付ける法的義務に直面している。
何が起きたか
Anthropicは、EU AI法に準拠するため、Claudeが生成するテキストに目に見えない透かしを使用すると発表した。Google DeepMindのオープンソース SynthID-Text システムの「バージョン」を採用し、この透かしはテキスト生成時に自然に生じる単語選択に検出不可能なパターンを埋め込む仕組みとなっている。例えば「overcast」と「grey」のように同等の確率で選ばれる単語から選択することで、復号化キーを持つ者にのみ検出可能なシグネチャを残す。
なぜ重要か
EU AI法は、人工生成されたテキスト、画像、動画、音声に機械可読マークの付与を義務付けており、これにより人工生成コンテンツの識別が可能になる。Anthropicは、透かしがユーザーのコスト増加や出力品質・コンテンツに影響を与えないと述べており、エンドユーザーにとっては準拠が目に見えない形で実現する。Google（2024年より既に SynthID-Text をサポート）や OpenAI を含む他の主要 AI 開発企業も、ヨーロッパの法律に基づく同様の透明性要件に直面している。
注目点
透かしは C2PA による Claude 処理画像のサポートを含む Anthropic の広範な準拠取り組みの一部である。オープンソースアプローチとして、SynthID-Text は他の開発企業も採用可能であり、EU のルール下での AI 生成コンテンツ検出の業界標準となる可能性がある。
透かしの発表は、特にヨーロッパにおける AI 規制のより広範な転換を反映している。EU AI 法は、テキスト、画像、動画、音声のすべての人工生成メディアが、人工生成コンテンツを識別する機械可読マークを備えることを要求することで、透明性の新しい基準を設定した。Anthropic が Google DeepMind のオープンソース SynthID-Text アプローチを採用することは、既存テクノロジーとの実務的な整合と業界標準化への動きの両方を示唆している。Google の Gemini は 2024年から既に SynthID-Text をサポートしているため、Anthropic の採用は大規模でのこのソリューションの実行可能性を強化する。
透かし技術の優雅さはその目に見えなさにある。大規模言語モデルの単語選択における自然なランダム性を活用することで、このシステムはエンドユーザーにとって知覚不可能な痕跡を残さない一方で、認可された者には検出可能である。この設計は準拠とユーザー体験の間の緊張を回避している。Anthropic は、コストまたは品質のトレードオフがないことを明示的に述べている。しかし、OpenAI が透かしの会話に参加していないことは注目に値する。ChatGPT も EU 透明性要件に直面するが、同社はまだその AI 法準拠ロードマップでテキスト透かし計画の詳細を明かしていない可能性があり、規制環境にギャップを残す可能性がある。
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できます
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
