Anthropic、Claude透かし仕組み公開

金曜日、Anthropicはチャットボット企業のClaudeが生成したテキストに透かしを入れる方法を明確にするためのブログ投稿を公開した。透かし導入は週前半に発表され、AI企業にAI生成コンテンツを識別可能にするシステムの実装を義務付けるEU AI法の透明性コードで要求されている。

技術的アプローチはSynthID-Textを使用し、これは2024年にGoogle DeepMindチームが発表した方法である。透かしは、モデルが「低リスク選択」を行うときにClaudeのレスポンスにパターンをエンコードすることで機能する。例えば、天候を表現する「曇り」または「灰色」のような類義語の選択である。エンコードされたパターンは人間の読者には知覚できないが、復号化キーを持つ者なら検出できる。Anthropicは「透かしはClaudeの出力品質に影響を与えない」と述べ、「読者にとって、透かしの有るレスポンスと無いレスポンスは区別不可能である」と述べた。同社は透かし検出APIをリリースする予定である。Anthropicはまた、透かしはPangramなどの企業が提供するAI検出方法と根本的に異なることを明確にした。これらの方法はテキスト自体の「それは[X]ではなく[Y]である」などの特徴的な文体パターンを検索する。

Anthropicはいくつかの実際的な懸念に対処した。編集に関しては、軽い編集では透かしがおそらく完全には削除されないが、すべての単語が置き換えられる完全な書き直しで透かしが削除されることを認めた。ただし、Anthropicはそのような広範な書き直しはテキストがまだ有意義にAI生成かどうかという疑問を引き起こすと述べた。Claudeに軽く編集されたテキストについては、透かしの検出可能性は「テキストの長さとClaudeがどの程度編集したかに依存する」。軽く編集された場合、「ほぼすべての単語」は人間の著者からのものとなり、「透かしが添付する対象はほぼない（何もないかもしれない）」となる。コードは最小限の透かしとなる。なぜなら、モデルはコメントなどの恣意的な選択領域でのみ自由度が必要であり、透かしは「実際のコード生成に無視できる影響を与える」からである。

この発表はClaudeユーザーが透かし義務化をめぐる激しい議論に参加しているさなかに行われた。Redditでは、一部のユーザーはこの動きを無実のClaudeユーザーへの陰謀と特徴づけ、一方で透かしを拒否することは不誠実だと主張するユーザーもいた。Business Insiderは、X上の「数十人」のユーザーが抗議としてClaudeの購読をキャンセルすると主張していると報じた。Anthropicは透かし要件がClaudeに限定されていないことも指摘した。「他の主要モデル開発企業も同じ行動規範に署名しており、独自の透かしを実装する予定である」