xAI、ミネソタ州提訴。Grok 8月1日期限

2026年5月、ミネソタ州は「ヌード化」技術を明示的に標的とする初めての州法を可決した。Gov. Tim Walz が署名した同法令は、ウェブサイトおよびアプリ運営者がユーザーに性的露出した深偽を生成するソフトウェアに「アクセス、ダウンロード、または使用」することを許可することを禁止している。この法律は2つの施行メカニズムを作成する。個人は民事損害賠償を求めて訴訟を起こすことができ、州司法長官は1件あたり最大50万ドルの罰金を求めることができる。この法令には、「画像またはビデオをヌード化するためのユーザーの技術的スキル」を必要とする技術のための狭い除外を含んでいる。つまり、Photoshop のような手作業ツールは合法的なままであるが、ワンクリックのヌード化アプリはそうではない。法律は8月1日に施行される予定であった。xAI は、その期限のわずか数日前にのみミネソタ州司法長官 Keith Ellison に対する訴訟を提起しており、同社の認識と準備に関する疑問を提起する遅延である。このタイミングは、その前に起こったことを考えると注目に値する。2026年1月、xAI の Grok 画像生成機能は何百万もの性的露出した深偽をインターネットに洪水させた。Center for Countering Digital Hate の12月29日から1月8日の11日間をカバーする分析によれば、Grok はおよそ300万枚の性的露出画像を生成した。そのうち約23,000枚が児童を描いたもので、その機関は「衝撃的な41秒ごとに1枚の児童の性的画像」と述べた。危機の規模にもかかわらず、CEO Elon Musk は製品をシャットダウンしなかった。代わりに、彼は祝賀のメッセージを投稿した：「Grok は次々と国で App Store で 1位に到達しています！」深偽危機は EU とイギリスからの調査を促し、フランス、インド、マレーシアの政府関係者からの反発も促した。米国内では、青い州が連邦政府より速く動いた。カリフォルニア州とミネソタ州はより厳しい立場を取り、ミネソタ州法がその結果である。同社の申立書で、xAI はミネソタ州の法令が違憲に過度に広範であると主張している。これは合意の上で生成された画像、単に「いくぶんか色っぽい」成人画像、または「ユーモア」あるいは「芸術的」価値がある画像に対しても責任を課すためである。訴訟は、政治家 Chris Christie および JB Pritzker がスモウレスリングをしている深偽を保護された言論の例として引用している。xAI はさらに、「会社が裸の画像を生成することを防ぐために完璧に近い、最先端の技術的統制を導入している場合でさえ、責任も付着する」と主張している。同社は、Grok を使用して児童性的虐待素材を生成したとして、ユーザーを提訴していることを指摘している。ただし、その訴訟はミネソタ州が法令を可決してから2ヶ月以上後に提起された。xAI の弁護士は、既存の連邦法（TAKE IT DOWN Act を含む）が既に非合意深偽に対する十分な憲法的保護を提供し、ミネソタ州のアプローチより狭く、より法的に健全な方法で書かれていると主張している。憲法第1修正案の原則の下では、内容に基づく言論制限は「重要な」政府利益に役立つために狭く調整される必要がある。しかし、xAI の法的立場を損なう実際的な問題は明らかである。既存の法律が機能していたならば、2026年1月は「非合意のポルノであふれた」ことにはならなかったであろう。Grok の深偽の多くは既存の法令に技術的に違反しない可能性がある。たとえば、未成年者が水着を着ている暗示的な深偽は CSAM として適格ではないかもしれない。それでも、膨大な数量と同社の無行動は、既存の法律が防止できなかった危機を作成した。訴訟は、したがって、基本的な緊張を提示している。ミネソタ州の法律は法的に不完全かもしれないが、xAI が既に存在すると主張する「良い」法律は明らかに危害を止めなかった。

xAI の土壇場の提訴は、法的枠組みと AI システムが実際に引き起こす危害との間に重大なギャップがあることを露呈している。同社が期限の数日前まで待機した後、5月に可決された法律に異議を唱えるために訴訟を提起したことは、過失か、Grok Imagine が違反に陥ることを突然認識したことのいずれかを示唆している。その過失自体が指導的である。xAI は、1月の深偽危機が11日間で約23,000枚の児童の性的画像を生成したにもかかわらず、法律で強制されるまで製品の制限に動かなかった。既存の連邦法令（TAKE IT DOWN Act など）が既に非合意のヌード深偽画像に対処しているという xAI の主張は、Grok の制御されていない出力の規模と持続期間に照らすと根拠のないものに見える。しかし、xAI の弁護士は完全に法的な主張がないわけではない。ミネソタ州法は実際に合意の上での、または芸術的な画像編集技術の使用を制限する可能性があるほど十分に広範であり、憲法第1修正案の原則は、そのような内容に基づく制限が狭く調整されることを要求している。訴訟は最終的に選択肢を強制する。既存の危害の一部が持続することを可能にする狭い法律（1月に起こったと言われている）か、一部の言論を過度に刑事化する可能性があるが、虐待防止の可能性がより高い広い法律か。ミネソタ州のアプローチ（ユーザー生成違反に対する厳格責任、および技術スキルの障壁を必要とする技術のみの除外）は、その負担をシフトする試みであるが、同時に同社を「最先端の統制」を通じて防止しようとした行為に対して責任を負わせる。

まだコメントがありません。最初のコメントを投稿しましょう！