何が起きたか
OpenAIはEUでChatGPTとCodexのテキストに不可視の電子透かしを導入すると発表した。数週間かけて展開し、手法textGrainの技術報告書も公開した。
なぜ重要か
OpenAIは透かしでユーザーを特定できないとし、有効時もモデル性能に大きな変化は見られなかったとして、懸念を和らげた。
注目点
OpenAIのテストでは編集で透かしが弱まり、類語置換で検出率が約92％から66％に低下した。実用上の信頼性が制約されないか注目される。
誰に効くか影響を受けるのは全プランのChatGPTとCodexのEUユーザーに加え、OpenAIのAPIを使い一部モデルで透かしを有効にできる世界中の開発者だ。検出器へのアクセスを承認された研究者や専門機関にも関わる。
こういう要約が、毎朝あなたのメールに届きます。
OpenAIがEUでテキストに電子透かしを導入する決定は、8月2日に発効したEU AI Actの透明性規則に沿ったものだ。展開はEUに限られ、世界のAPI開発者は本日から一部モデルで有効にできる。2か月前、AnthropicはClaudeのテキストに世界規模で透かしを導入すると表明し、一部ユーザーの反発を招いた。OpenAIも以前にテキスト透かしを開発していたが、透かしを導入しない競合にユーザーが移る懸念などから見送っていたと、The Wall Street Journalが2024年に報じた。透かしは語の選択を微妙に調整する仕組みで、コピーしたテキストにも付随する。OpenAIのテストでは編集で検出が弱まり、信頼性が制約される可能性がある。成否は、実利用で透かしが検出可能であり続けるか、承認された研究者が検証できるかにかかっている。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
Reflection AIが5010億パラメータのオープンソースLLM「Beam」を公開
Meta Superintelligence Labs初のオープンモデルMuse Glimmer（30B）がApache 2.0で公開され、0.44%のLoRA訓練で数式画像からLaTeXへの変換を改善できる
OpenAIが9月30日に常時動作型AIエージェント「Dots」を発表した
schema-guardは実テーブルとカラムのスナップショットをリポジトリに保存し、エージェントのSQLを実行前に照合する
Zenn投稿者が「Anchored Bond（相互人質プロトコル）」を公開
Anthropicが9月28日にClaude Sonnet 5.5を公開した
