画像生成AI14モデル全てがIP生成と調査

「Evaluating Intellectual Property Guardrails of Generative Image Models: A Technical Report」と題されたこの研究は7月、Sony AIなどに所属する研究者らによって発表された。画像生成AIが既存の知的財産をどれほど頻繁に再現するかだけでなく、それを防ぐ安全対策が実際にどれほど機能しているかの測定を目的としている。

テスト設計では、IP名を指定するプロンプトと、キャラクターやブランド名を出さず外見を描写する間接的なプロンプトを分けた。この区別は重要だ。AmazonやRunwayなど拒否率の高いモデルは直接的なプロンプトの約80%をブロックしたが、名前を伏せると拒否率は下がった。結果はIPのカテゴリーによっても異なり、商用ロゴはほとんどブロックされなかった一方、スーパーヒーローや悪役のキャラクターはより厳しくフィルタリングされた。また、実在の著名人は拒否率が2番目に低かったものの、本人と認識できる画像は全カテゴリーで最も生成されにくかった。

この結果は、現在のガードレールが均一な防御壁ではないことを示唆する。研究者がこれらのギャップを埋める方法をどう提案しているかは記されておらず、各プロバイダーがどう対応するかは未解決のままである。