Anthropicが欧州AI法対応として導入した見えない透かしについて、わずか4時間でそれを削除するコードが公開され、多くの開発者が追従するツールを作成しています。
透かしは単語や表現の選択パターンを機械的に検出可能な形で埋め込む仕組みですが、言い換えや翻訳などで簡単に回避できることが判明しており、規制による識別方法の実効性が問われています。
何が起きたか
Anthropicが欧州AI法対応としてClaudeに見えない透かし（ウォーターマーク）埋め込みを発表してから4時間以内に、開発者Guillaume Meyerが透かし削除コードを公開しました。このコードはGitHubで2万回以上ブックマークされ、100人以上の貢献者が参加しています。
なぜ重要か
欧州AI法は今月初旬に施行され、AI生成コンテンツのラベリングを義務付け、従わない場合は年間売上の最大3%の罰金を科しています。しかし独立ツールには法的制限がなく、Anthropicのような大企業の対応策も数時間で迂回される現実が、規制実効性の課題を浮き彫りにしています。
注目点
透かしの削除方法は複数あります。Meyerの手法は別のAIモデルで複数の言い換え版を生成して同義語を挿入するもの、Erik Hughesは15分で見えない文字を削除し文を並び替えるツールを作成、Leon Chlonはアラビア語など意味体系が異なる言語への翻訳で透かしが失われることを指摘しています。
欧州AI法はAI生成コンテンツの識別を目的に、提供者に透かし埋め込みを義務付けています。Anthropicが採用するSynthIDという手法はGoogle開発で、単語や表現選択に機械検出可能なパターンを埋め込む仕組みです。しかし技術的に見ると、この方式は本質的に脆弱です。透かしは意味の同等な言い換えに耐性がなく、異言語翻訳で消失し、段階的な編集に対応できません。開発者たちは4時間で複数の独立削除手法を実装し、GitHubで20000回以上共有されました。
この状況から二つの問題が浮かびます。第一に、法が禁じるのは提供者による削除ツール販売のみで、独立ツール開発には制限がなく、規制実効性に穴があります。第二に、透かしそのものが根本的な限界を抱えており、Anthropic自体が「多くのラボが実装するかは未知数」と述べ、OpenAIはかつて顧客離反を恐れてこの技術導入を見送っています。欧州当局の意図は透明性と属性付与にありますが、技術的な猫とネズミのゲームが既に始まっており、指標としての有効性は疑問視される状況です。
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できます
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
