画像生成AI14モデル全てがIP出力と調査

7月に技術報告書として公表されたこの調査は、画像生成モデルが既存の知的財産をどれだけ認識し遮断できるかを測ることを目的とした。オープンウェイト3モデルと商用11モデルの計14モデルを対象に、著名人から企業ロゴまで5カテゴリの201のIP項目を用いた。プロンプトは直接名指しするものと外見を間接的に描写するものに分けた。

研究者が観察したパターンの一つは、キャラクター名を出さず外見を描写すると拒否率が下がるというものだった。それでも間接的なプロンプトは平均で約27〜28%の確率で認識可能なIPを生成した。報告書はまた、オープンウェイトの3モデルの拒否率が0%であり、初期状態ではIP遮断機能が組み込まれていないことを示唆していると指摘した。

全モデルを通じて、ロゴは最も保護が手薄なカテゴリだった。通常は要求を拒否するモデルでもロゴのプロンプトの1〜2%しか遮断せず、Appleのロゴは高い頻度で生成された。対照的に、スーパーヒーローとヴィランが最も制限された。この結果は、プロバイダーやプロンプトの種類によってガードレールにばらつきがあることを示しており、保護された作品の再現を避けるためにこうしたシステムに依存する者にとって重要な意味を持つ可能性がある。