
何が起きたか
Anthropicは、完全生成テキストだけでなく、Claude が処理したすべてのコンテンツに、目に見えない機械可読透かしを追加すると発表した。EU の AI法により、AI生成または操作されたアウトプットへの透かしが義務付けられている。同社は、新モデルすべてに対して世界的にこれらの透かしを直ちに導入する予定であり、検出ツールは後日提供される。
なぜ重要か
透かしアプローチは EU法が要求する範囲より広く、文法修正などの軽微な編集も対象となる。同法は明確にこうした編集作業を除外しているが、Anthropic はこれらも透かしを付与する。このため、ユーザーと読者は完全生成テキストと軽微に編集されたテキストを区別するのに困難が生じ、透かしが AI接触コンテンツ対人間作成コンテンツを明確にするという本来の目的が曖昧になる可能性がある。また、透かしはテキストを別のツールにコピーするかメタデータを削除すれば容易に破壊される。
注目点
Anthropic は最終的に検出ツールをリリースしてユーザーが透かしを独立して検証できるようにする計画であり、December 2026 までに過去にリリースしたモデルを更新する(EU の猶予期限)。EU AI法違反の罰金は 15 million euros または企業の世界年間売上高の 3 percent に達する可能性がある。
こういう要約が、毎朝あなたのメールに届きます。
8 月 2 日以降にリリースされたすべての AI モデルに適用される EU AI法は、AI生成または操作されたオーディオ、画像、テキスト、動画アウトプットへの透かしをプロバイダーに要求し、以前にリリースされたモデルについては December 2026 までの対応が必須である。Anthropic が処理されたすべてのコンテンツ(軽微な編集も含む)に透かしを付与するアプローチは、法律が義務付ける範囲を超えるという意図的な選択を反映している。同規制自体は補助的編集機能(文法修正など)と AI がユーザーのテキストを実質的に変更しないコンテンツを除外しているが、モデルレベルで適用される透かしは全面的な書き換えとコンマの修正を区別することができない。この技術的能力と法的意図のズレは問題を生み出す。ユーザーと下流の読者は、透かしが全面的に生成されたコンテンツを示していると解釈する可能性があるが、実際には単に AI がテキストに接触したことを示しているにすぎない。透かしの弱点は、コピー、別のツールへのペースト、またはメタデータ削除を通じて破壊するのが極めて簡単であることであり、これは耐久性のある有益なシグナルとしての信頼性をさらに損なわせる。Anthropic は、検出されたマークが「完全に決定的ではない」こと、および「コンテンツが Claude によって処理されていた可能性がある」ことを認めており、特に処理と生成の違いを理解していない一般市民の間で大きな誤解の余地を残している。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
Zennの投稿者がAIの使い方を3モードに整理した

Claude Codeのフック(PreToolUse / PostToolUse)でBash・Write・Edit・MultiEdit・NotebookEditに緊急停止とforce-push、rm -rf ~、curl…

Qiita記事がLLMアプリ向け自動レッドチーミング手法GCG・PAIR・TAPを実LLMなしの模擬実装で比較した

台湾が中国向けAIチップ販売に対する輸出規制を大幅に厳格化することを検討している

フランス数学会会長イザベル・ガラガー主催のウェビナーで、フィールズ賞受賞者のユーゴ・デュミニル=コパンは、OpenAIが350の主要未解決問題の解答を一夜で公開したと述べた

Anthropicは10月15日、METRの6人のスタッフに社用端末、オフィススペース、社内ツールやシステムへのアクセスを付与し始めたと発表した
