ClaudeがEU AI Act対応で透かし付与

Anthropic は、Claude が生成するだけでなく編集したテキストも含む、Claude が処理するすべてのコンテンツに目に見えない機械可読透かしを適用する計画を発表した。同社は、EU の AI法に対応することを説明するサポート記事でこの開示を行った。同法は、すべての AI システムプロバイダーが AI生成または操作されたオーディオ、画像、テキスト、動画アウトプットに透かしを付与することを義務付けている。この法律は 8 月 2 日以降にリリースされたすべての AI モデルに適用され、プロバイダーに対して以前にリリースしたモデルを更新する期限を December 2026 として設定している。Anthropic は、世界的に提供されるすべての新モデルがこれらのマークを「初日から」付与すると確認した。テキスト出力には目に見えない埋め込み透かしが含まれ、生成されたファイルは他の形式では、技術がサポートしている場合、デジタル署名された来源メタデータが含まれる。Anthropic は、サポート記事で「軌道から核を落とす」アプローチと説明するもので、技術がサポートしている場所ではすべての処理されたコンテンツに透かしを付与している。ただし、EU AI法は、AI システムが「標準編集の補助機能」を実行する場合（文法修正など）または「実質的に」ユーザーのテキストまたはその意味を変更しない場合の透かしを要求していない。同社は、ユーザーが一般的に校正、翻訳、要約、ファイル変換に Claude を使用しており、すべてのこうしたアウトプットは「基礎となるアイデア、テキスト、またはデータが別の出所に由来する場合でも、Claude マークを付与できる」と説明した。技術的には、透かしはモデルの単語選択にバイアスを加えることで機能し、パターンは文書全体に分散され、適切なツールでのみ集約的に検出可能である。しかし、このアプローチには重大な制限がある。透かしは簡単に破壊できる。テキストは別のシステムにコピー・ペーストでき、そのシステムがテキストを編集する場合透かしが破壊される可能性があり、メタデータは標準的な編集ツールで削除できる。重要なことに、透かしは特に有益ではない。Anthropic は、検出されたマークが「Claude によってコンテンツが処理されたというシグナルを提供するが、完全に決定的ではない」こと、および「コンテンツが Claude によって処理されていた可能性がある」ことを認めた一方で、「検出されたマークがないことは、コンテンツが AI生成または処理されていなかったことを意味しない」ことも指摘した。Anthropic は、EU 法が技術サポートを必要とするため、透かし検出方法の詳細を最終的に共有する計画があると述べた。同社はまた、「一部のプラットフォームまたはフィーチャー」では透かしが機能しないと述べた。Ars Technica が Anthropic に検出ツール公開のタイムライン、偽陰性または偽陽性の可能性、または透かしが AI法の編集除外とどのように競合する可能性があるかについて質問したとき、Anthropic は提供された声明でこれらの質問に直接応じていない。より広い EU 規制の文脈は複雑さのもう 1 つのレイヤーを追加する。AI法がモデルレベルでの透かしを要求する一方で、セクション 50(4) はパブリッシャーが公開開示のためにコンテンツを明確にラベル付けする必要のある方法を扱っている。このレジームの下では、AI が作成した小説またはマーケティングコピーなどの完全に AI生成されたテキストは、ほとんどの場合、ラベルを必要としない。ラベル付けは、テキストが「公益に関する事柄について公衆に通知」することを目的としており、既知の説明責任を持つ人間の編集者によって編集レビューされていない場合にのみ必須である。これはパラドックスを生み出す。すべてのコンテンツに対するモデルレベルの透かしは、編集者が全面的に生成されたテキストをレビューした場合、ほとんどの場合ラベル付けを要求しないパブリッシャーレベルのルールと対比される。EU AI法違反の罰金は 15 million euros または企業の世界年間売上高の 3 percent に達する可能性がある。Anthropic は、「他のラボも同様の措置を講じている」と述べ、同社は EU の要求に対応する透かしと検出方法の開発を継続する計画であると述べた。