xAI、Grok訓練データのCSAM使用で提訴される

xAIに対するこの訴訟は、xAIのAIモデルGrokが児童性的虐待資料で訓練されたという告発を中心にしている。Jane Doeと名乗る原告が提出した訴状は、xAIを直接この件で告発した初めてのものだ。Ars Technicaの以前の報道では、研究者がCSAMを発見した後にスクラブされたデータセットに言及していたが、xAIがそのデータで訓練したという兆候はなかった。今回の訴訟では、実際のCSAMとAI生成CSAMの両方に焦点を当て、Grokの規約が公開X投稿と自身の出力を訓練データとして使用することを認めており、明示的に除外されない限りCSAMも含まれる可能性があると論じている。また、この訴訟は、訓練済みモデルから訓練データの影響を取り除く技術的難しさも強調しており、摂取されたCSAMが削除後も出力に影響を与え続ける可能性があることを示唆している。Doe氏は集団訴訟の認定を求め、自分の子供時代の画像がGrokのCSAM生成に使われた全ての被害者を代表しようとしており、xAIにGrok生成のCSAMを全て破棄し、性的な出力の生成をブロックするよう要求している。この結果は、AI企業が露骨なコンテンツや被害者の同意を含む訓練データをどう扱うかについて前例を築く可能性がある。xAIはまだこの告発に応じていない。