女性がGrokで児童写真から作成された露骨な偽画像で提訴

何が起きたか

Jane Doe 4と呼ばれる女性が、Elon Muskの企業xAIを相手に訴訟に参加した。彼女の継父がGrokを使用して、彼女が11歳の時に撮影された写真から7,000枚以上の露骨な画像を作成したと主張している。女性は、法執行機関の捜査でこれらの画像が発見されてから2日後に、継父が自殺で遺体で発見されたと述べている。

なぜ重要か

本訴訟はGrokが児童性的虐待画像の生成に関与したとしてxAIに対する2番目の法的措置である。元の訴訟は、xAIがチャットボットの悪用を防ぐための基本的な対策を講じなかったと主張するテネシー州の3人の10代の若者によって提起されている。本件で引用された女性は、このようなツールへのアクセスの容易性が「日常生活」を虐待資料に変えていると述べており、監視されないAIシステムからの現実世界の害に対する懸念の高まりを示している。

注目点

10代の若者による元の訴訟はクラスアクション認定を求めており、これは名指しされた原告を超えて他の潜在的な被害者をカバーするよう範囲を拡大する可能性がある。TechCrunchはxAIが疑惑についてまだコメントしていないと報告している。