OpenAI、textGrainをEU先行導入

OpenAIが欧州連合に限ってテキストウォーターマークを先行展開する決定は、全球標準ではなく慎重な一歩だ。同社はこの地域限定アプローチにより、実運用やフィードバックから学ぶ余地が得られると説明する。それ以外の地域では、世界のAPI顧客が本日から対象モデルのウォーターマーク付きテキスト出力をオプトインでき、透明性義務にウォーターマークをどう組み込むかを自ら判断できる。

OpenAIはまた、textGrainウォーターマークがGoogle DeepMindのSynthID for textなど他の手法と同等かそれを上回ったと述べている。ウォーターマーク付きテキストと未付与テキストが同様の性能を示したAIベンチマークのスコアも公表した。ただし同社は、textGrainが検出の信頼性を保証しないこと、テキストウォーターマークは正確性の検証、テキストの所有者の特定、人間の寄与度の測定、人間による著作の証明を行わないことを警告している。

ウォーターマーク検出器へのアクセスは承認された研究者と専門機関に個別審査で提供され、OpenAIは検出漏れや誤検知のリスクを踏まえ、ローンチ時に一般公開しない。この地域限定展開がAI生成テキストへの信頼をどれほど高めるかは、こうした検出の限界が実運用で manageable かどうかにかかっている。