OpenAI、EUでtextGrain透かし APIは任意

EU AI Actは、AI事業者に対し生成文を機械可読な形式でラベル付けすることを求めているとされる。OpenAIのtextGrainは、モデルが単語を選ぶ際の確率的な癖に統計的な信号を埋め込む仕組みで、GoogleのSynthIDと似た発想だ。OpenAIは社内テストでSynthIDをはじめ他手法と同等以上だったとし、オープンソースとして公開する計画も示している。

ただし実効性には条件が付く。検出率は文章の長さや分野に左右され、400トークンの心理学文章で約92%でも、語の選択の自由度が小さい数学では「大幅に低い」という。編集にも弱く、類語への置換が10%で約92%から66%、25%で17%まで落ちる。それでもOpenAIは、透かしを消しにくくすれば嫌う利用者がオープンウェイトモデルに移る可能性がある、と前向きにも捉えている。文章の品質については、最先端モデルAstraでGPQA Diamondなど8つのベンチマークを試し、透かしの有無で大きな差はなかったと説明する。ただし執筆の質への影響は確認されていない。

検出器へのアクセスは当面、申請した研究者や専門機関に限定され、EUのCode of Practiceに沿って個別に許可される。OpenAIは、未透かしの文章を誤って透かし入りと判定したり、透かしを見逃したりする可能性を理由に挙げ、「結果を責任を持って解釈できると判断した時点で」拡大するとしているが、時期は示していない。透かしは所有権や正確性を示すものではなく、検出できなければ人間が書いた証拠にもならない。普及の可否は、誤検知の抑制と編集耐性の改善にかかっているとみられる。