OpenAI、EUでChatGPT文書に電子透かし

この展開は、生成AIプロバイダーにAI生成テキストを機械識別可能にするよう求めるEU AI Actに直結している。OpenAIはtextGrainでこれに応える。文字やメタデータをテキストに刻印せず、モデルが語を選ぶ方法に統計的信号を織り込む手法だ。

OpenAI自身の数値は、この手法がどこで持ちこたえ、どこでほつれるかを示す。検出は語の選択肢が広い散文で最も強く、テキストが短い場合、主題が代替をほとんど許さない場合、人間が編集した場合に弱まる。400トークンの英文で語の10%を置換すると検出率は約92%から66%に下がり、25%置換では17%まで落ちた。同社はまた、透かしが検出されても人間の関与、所有権、責任、利用者身元は立証できず、透かしの欠如は人間の著作を証明しないと強調する。

だからこそ検出器は一般公開ではなく、まず承認された研究者と機関に提供される。実用的な意味は、これらの外部者がどれだけアクセスを得るか、そして検出がOpenAIのテスト外、特に編集ツールを通ったテキストで持ちこたえるかどうかにかかりそうだ。