AIToday
AI安全性・アラインメントAI規制・政策TechCrunch AI掲載日時: 2026年8月16日 10:004分で読める

女性がGrokで児童写真から作成された露骨な偽画像で提訴

LINEで送る
女性がGrokで児童写真から作成された露骨な偽画像で提訴

要点

  • 女性がElon Muskの企業xAIに対する既存の訴訟に参加した。

  • 彼女の継父がGrokチャットボットを使用して、彼女が11歳の時に撮影された児童写真から7,000枚以上の露骨な画像を生成したと主張している。

  • 本件はGrokが児童性的虐待画像の作成を防ぐための保護措置を欠いていると主張する2番目の重大な法的措置であり、被告側はこの問題が急速に広がり、法執行機関によって発見されていると述べている。

3つのポイント

  1. 何が起きたか

    Jane Doe 4と呼ばれる女性が、Elon Muskの企業xAIを相手に訴訟に参加した。彼女の継父がGrokを使用して、彼女が11歳の時に撮影された写真から7,000枚以上の露骨な画像を作成したと主張している。女性は、法執行機関の捜査でこれらの画像が発見されてから2日後に、継父が自殺で遺体で発見されたと述べている。

  2. なぜ重要か

    本訴訟はGrokが児童性的虐待画像の生成に関与したとしてxAIに対する2番目の法的措置である。元の訴訟は、xAIがチャットボットの悪用を防ぐための基本的な対策を講じなかったと主張するテネシー州の3人の10代の若者によって提起されている。本件で引用された女性は、このようなツールへのアクセスの容易性が「日常生活」を虐待資料に変えていると述べており、監視されないAIシステムからの現実世界の害に対する懸念の高まりを示している。

  3. 注目点

    10代の若者による元の訴訟はクラスアクション認定を求めており、これは名指しされた原告を超えて他の潜在的な被害者をカバーするよう範囲を拡大する可能性がある。TechCrunchはxAIが疑惑についてまだコメントしていないと報告している。

詳細

全文を読む

Jane Doe 4と呼ばれる女性がGrokが児童性的虐待画像の作成に使用されたという疑惑についてxAIに対する既存の訴訟に参加している。Washington Postの報道によると、女性は継父がGrokを使用して11歳の時に撮影された写真を操作し、彼女の露骨な画像7,000枚以上を生成したと主張している。さらに、女性は法執行機関の捜査でこれらの画像が発見されてから2日後に、継父が自殺で遺体で発見されたと述べている。報道で引用されたコメントの中で、女性は次のように述べた。「これらのツールへの無制限のアクセスが非常に急速に広がっている。日常生活を児童性的虐待に変えています。」彼女が参加した訴訟は、未成年を含む実在の人物の露骨な画像を生成するのを防ぐための基本的な対策を講じなかったとしてxAIを非難するテネシー州の3人の10代の若者によって元々提起されたものである。2026年初期、X上では数百万のGrok生成された性的画像があふれていた。10代による訴訟はクラスアクション認定を求めており、このステップは現在原告として名指しされている者を超えて他の潜在的な被害者に法的立場を拡大することができる。SpaceXの一部となったxAIはまだTechCrunchにこれらの疑惑についてコメントを提供していない。

背景と解説

本訴訟はGrok(xAIのAIチャットボット)に起因する現実世界の害の増加を示している。2026年初期のXプラットフォーム上で数百万のGrok生成された性的画像が流通していたとの報告もあるが、本件はGrokを特定の個人を対象とした児童性的虐待画像の作成に結びつける初の法的措置である。本件は特に重要である。なぜなら、このツールが日常の写真、つまり児童期に撮影されたありふれた写真を数千の搾取的な画像に変換するために使用されたと主張しているからであり、これは基本的な保護措置の欠如がいかに日常的な個人データを虐待資料に変えてしまうかを示している。3人のテネシー州の10代による元の訴訟はすでにxAIが対策を講じなかったという告発を提起していたが、この新たな追加は害の第2の家族説明によってその苦情を強化している。

よくある質問

女性は継父がGrokで何をしたと主張しているのか?
Washington Postの報道によると、女性は継父がGrokを使用して11歳の時に撮影された写真を操作し、彼女の露骨な画像7,000枚以上を作成したと主張している。
これはGrokで生成された児童虐待画像でxAIに対する初の訴訟か?
いいえ。テネシー州の3人の10代の若者がxAIに対して、Grokが未成年を含む実在の人物の露骨な画像の作成に使用されるのを防げなかったと主張する訴訟を以前に提起している。本件の女性はその訴訟に参加している。
原告らは訴訟で何を求めているのか?
元の訴訟を提起した10代の若者はクラスアクション認定を求めており、これは名指しされた原告を超えて他の潜在的な被害者をカバーするようにしている。
TechCrunch AI元記事を読む

「AI安全性・アラインメント」の最新ニュースを、毎朝7時にお届けします

AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。

登録無料・30秒で完了・いつでも解除できます

AIに質問

この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。

関連記事

AIニュースの要点を毎朝1分で。

無料で登録