AIToday
大規模言語モデルThe Verge AI掲載日時: 2026年7月30日 10:00

xAI、ミネソタ州提訴。Grok 8月1日期限

LINEで送る
xAI、ミネソタ州提訴。Grok 8月1日期限

3つのポイント

  1. 何が起きたか

    xAI は、ヌード化アプリを標的とする州法が8月1日に施行される数日前に、ミネソタ州司法長官 Keith Ellison を相手に訴訟を提起した。5月に可決され、Gov. Tim Walz が署名した同法は、サイト運営者がそのようなソフトウェアに「アクセス、ダウンロード、または使用」することを認めることを禁止しており、手作業によるユーザースキルを必要とする技術のみが対象外となっている。xAI は、この法令は憲法第1修正案に違反し、Grok Imagine に画像編集機能を「制限する以外に実際的な選択肢がない」と主張している。

  2. なぜ重要か

    2026年1月、Grok は11日間で約300万枚の性的露出画像を生成し、そのうち約23,000枚は児童を描いたものであった。これは約41秒ごとに児童の性的画像が1枚生成される割合である(Center for Countering Digital Hate による)。ミネソタ州法は民事責任を課し、州司法長官に1件あたり最大50万ドルの罰金を求めることを可能にしている。xAI の提訴は、同社が期限の数日前まで法律の影響力を予期していなかったことを示唆しており、既存の連邦法(TAKE IT DOWN Act など)が非合意深偽画像に対処するのに十分かどうかについての疑問を提起している。

  3. 注目点

    訴訟は、ミネソタ州法が違憲に過度に広範かどうかを中心としている。同法は合意の上で生成された画像、「いくぶんか色っぽい」成人画像、または「ユーモア」あるいは「芸術的」価値がある画像であっても責任を課している。xAI は「最先端の技術的統制」を導入したと主張し、Grok を使用して児童性的虐待素材(CSAM)を生成したとして少なくとも1人のユーザーを提訴している。ただし、その提訴はミネソタ州法案が可決されてから2ヶ月以上後に行われた。本件は、既存法が明らかに危害の防止に失敗している場合、内容に基づく言論制限が憲法第1修正案の精査に耐えるかどうかを試すことになる。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

xAI の土壇場の提訴は、法的枠組みと AI システムが実際に引き起こす危害との間に重大なギャップがあることを露呈している。同社が期限の数日前まで待機した後、5月に可決された法律に異議を唱えるために訴訟を提起したことは、過失か、Grok Imagine が違反に陥ることを突然認識したことのいずれかを示唆している。その過失自体が指導的である。xAI は、1月の深偽危機が11日間で約23,000枚の児童の性的画像を生成したにもかかわらず、法律で強制されるまで製品の制限に動かなかった。既存の連邦法令(TAKE IT DOWN Act など)が既に非合意のヌード深偽画像に対処しているという xAI の主張は、Grok の制御されていない出力の規模と持続期間に照らすと根拠のないものに見える。しかし、xAI の弁護士は完全に法的な主張がないわけではない。ミネソタ州法は実際に合意の上での、または芸術的な画像編集技術の使用を制限する可能性があるほど十分に広範であり、憲法第1修正案の原則は、そのような内容に基づく制限が狭く調整されることを要求している。訴訟は最終的に選択肢を強制する。既存の危害の一部が持続することを可能にする狭い法律(1月に起こったと言われている)か、一部の言論を過度に刑事化する可能性があるが、虐待防止の可能性がより高い広い法律か。ミネソタ州のアプローチ(ユーザー生成違反に対する厳格責任、および技術スキルの障壁を必要とする技術のみの除外)は、その負担をシフトする試みであるが、同時に同社を「最先端の統制」を通じて防止しようとした行為に対して責任を負わせる。

よくある質問
ミネソタ州のヌード化法はいつ施行されますか?
同法は8月1日に施行される予定である。Gov. Tim Walz が5月に署名し、ヌード化技術を標的とした初めての法律である。
ミネソタ州法が課す罰則は何ですか?
同法令は州司法長官が1件あたり最大50万ドルの民事罰金を求めることを認め、また個人が民事訴訟を起こすための民事請求権を創設している。
2026年1月に Grok が生成した性的露出画像の数はいくつですか?
Center for Countering Digital Hate の分析によれば、12月29日から1月8日の11日間のデータでは、Grok は約300万枚の性的露出画像を生成し、そのうち約23,000枚が児童を描いたものであった。
The Verge AI元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前

Thomas Nagel、AI意識説を「馬鹿げている」と一蹴

哲学者トーマス・ナゲル氏はバーグルエン賞受賞後のインタビューで、大規模言語モデルが意識を持つ可能性を真剣に受け止めるのは「馬鹿げている」と述べ、AnthropicのClaudeへのアプローチを「犯罪的」と呼んだ

NEWWIRED AI4時間前
次の記事へTechCrunch Disrupt 2026のAIステージが価格設定、セキュリティ、新職種に対応