
何が起きたか
xAI は、ヌード化アプリを標的とする州法が8月1日に施行される数日前に、ミネソタ州司法長官 Keith Ellison を相手に訴訟を提起した。5月に可決され、Gov. Tim Walz が署名した同法は、サイト運営者がそのようなソフトウェアに「アクセス、ダウンロード、または使用」することを認めることを禁止しており、手作業によるユーザースキルを必要とする技術のみが対象外となっている。xAI は、この法令は憲法第1修正案に違反し、Grok Imagine に画像編集機能を「制限する以外に実際的な選択肢がない」と主張している。
なぜ重要か
2026年1月、Grok は11日間で約300万枚の性的露出画像を生成し、そのうち約23,000枚は児童を描いたものであった。これは約41秒ごとに児童の性的画像が1枚生成される割合である(Center for Countering Digital Hate による)。ミネソタ州法は民事責任を課し、州司法長官に1件あたり最大50万ドルの罰金を求めることを可能にしている。xAI の提訴は、同社が期限の数日前まで法律の影響力を予期していなかったことを示唆しており、既存の連邦法(TAKE IT DOWN Act など)が非合意深偽画像に対処するのに十分かどうかについての疑問を提起している。
注目点
訴訟は、ミネソタ州法が違憲に過度に広範かどうかを中心としている。同法は合意の上で生成された画像、「いくぶんか色っぽい」成人画像、または「ユーモア」あるいは「芸術的」価値がある画像であっても責任を課している。xAI は「最先端の技術的統制」を導入したと主張し、Grok を使用して児童性的虐待素材(CSAM)を生成したとして少なくとも1人のユーザーを提訴している。ただし、その提訴はミネソタ州法案が可決されてから2ヶ月以上後に行われた。本件は、既存法が明らかに危害の防止に失敗している場合、内容に基づく言論制限が憲法第1修正案の精査に耐えるかどうかを試すことになる。
こういう要約が、毎朝あなたのメールに届きます。
xAI の土壇場の提訴は、法的枠組みと AI システムが実際に引き起こす危害との間に重大なギャップがあることを露呈している。同社が期限の数日前まで待機した後、5月に可決された法律に異議を唱えるために訴訟を提起したことは、過失か、Grok Imagine が違反に陥ることを突然認識したことのいずれかを示唆している。その過失自体が指導的である。xAI は、1月の深偽危機が11日間で約23,000枚の児童の性的画像を生成したにもかかわらず、法律で強制されるまで製品の制限に動かなかった。既存の連邦法令(TAKE IT DOWN Act など)が既に非合意のヌード深偽画像に対処しているという xAI の主張は、Grok の制御されていない出力の規模と持続期間に照らすと根拠のないものに見える。しかし、xAI の弁護士は完全に法的な主張がないわけではない。ミネソタ州法は実際に合意の上での、または芸術的な画像編集技術の使用を制限する可能性があるほど十分に広範であり、憲法第1修正案の原則は、そのような内容に基づく制限が狭く調整されることを要求している。訴訟は最終的に選択肢を強制する。既存の危害の一部が持続することを可能にする狭い法律(1月に起こったと言われている)か、一部の言論を過度に刑事化する可能性があるが、虐待防止の可能性がより高い広い法律か。ミネソタ州のアプローチ(ユーザー生成違反に対する厳格責任、および技術スキルの障壁を必要とする技術のみの除外)は、その負担をシフトする試みであるが、同時に同社を「最先端の統制」を通じて防止しようとした行為に対して責任を負わせる。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

哲学者トーマス・ナゲル氏はバーグルエン賞受賞後のインタビューで、大規模言語モデルが意識を持つ可能性を真剣に受け止めるのは「馬鹿げている」と述べ、AnthropicのClaudeへのアプローチを「犯罪的」と呼んだ
