OpenAI、EUでChatGPTとCodexに透かし

OpenAIがChatGPTとCodexのテキストに透かしを入れる決定は、EU AI法への直接的な対応だ。同社は数週間以内にEUの全プランユーザーへこの機能を展開し、OpenAIのAPIを使う開発者は一部モデルで有効化できるが、既定ではオフのままとなる。OpenAIは現時点でテキスト透かしを世界全体で既定にする計画はないとしている。

透かしは、モデルの語の選択を微妙に変え、人間には見えないがツールで検出できるパターンを埋め込む仕組み。語そのものに組み込まれるため、コピー＆ペーストしても残る。OpenAIはユーザーを特定せず、モデル性能への影響も小さいと主張する。発表と併せて、透かし入りテキストの検出ツールtextGrainに関する報告書も公開した。

ただし、この方法には明確な限界がある。類義語への置き換えで検出率は急落し、未編集テキストは92%検出されるが、語の10%を置換すると66%に、25%では17%に下がる。OpenAIは短いテキストや数学の解答、翻訳文は検出が難しいとも述べている。こうした制約から、検出ツールへのアクセスは当初、承認された研究者と機関に限定される。OpenAIは、透かしがないことは人間が書いた証明にはならず、透かしはAIの関与を示すが、最終テキストにどれだけ人間の判断や編集、創造性が加わったかは測れないと警告している。実運用での性能と、容易に回避されないかどうかが、コンプライアンスと検出における価値を左右するだろう。