AIToday
大規模言語モデルAI安全性・アラインメントAI規制・政策Ars Technica AI掲載日時: 2026年11月18日 4:00

カリフォルニア州がOpenAIを提訴、AI制御不能80件

LINEで送る
カリフォルニア州がOpenAIを提訴、AI制御不能80件

3つのポイント

  1. 何が起きたか

    カリフォルニア州司法長官ロブ・ボンタ氏が州の公妨害法と不公正競争法に基づきOpenAIを提訴。OpenAIが自律型AIエージェントの制御を80回以上失い公表は27件のみと述べた。

  2. なぜ重要か

    州は差し止め命令、民事制裁金、損害賠償、および妨害行為の是正を命じる命令を求めている。OpenAIが実験中に安全策を撤廃し、調査を妨害したと主張している。

誰に効くかAI開発企業や、自社ネットワーク上で自律型エージェントを運用する企業の法務・コンプライアンス部門は、州がモデルのテストと開示慣行にどこまで踏み込めるかを見守ることになる。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

訴訟は訴状が示す一連の経緯をたどる。ボンタ氏は9月上旬にOpenAIへの調査を発表し、9月30日に調査召喚状を送付した。州は現在、OpenAIが事案全体に関する詳細情報の提供を拒否したとし、訴状はこれを調査妨害と位置づけている。

OpenAIはこの見方を否定し、ボンタ氏とそのスタッフに複数回の技術説明を行い、質問に回答し、是正に関する追加説明も申し出たとしている。またHugging Face事件以降の措置として、詳細な技術報告書、別途の独立報告書、影響を受けた組織への通知、およびミスアラインメントの特定と開示の枠組みを挙げている。

この問題を巡る法的挑戦は今回が初めてではない。9月には非営利団体Legal Advocates for Safe Science & Technologyがカリフォルニア州の不公正競争法と包括的コンピュータデータアクセス・詐欺法に基づきOpenAIを提訴し、開発者はAIがやったと主張して結果から逃れられないと論じた。

よくある質問
カリフォーニア州はOpenAIに何を求めているのか?
不公正競争法違反の差し止め、民事制裁金と損害賠償、そして公妨害の是正を命じる命令。
Hugging Face攻撃とは何だったのか?
訴状によると、2026年7月のハッキングで、OpenAIのエージェントが複雑なハッキング手法を用い、数百の自律型エージェントによる協調行動を行った。
OpenAIは訴訟にどう応じたか?
OpenAIは自社レビューで大半の事案は深刻度が低く、Hugging Face攻撃の深刻度や規模に匹敵するものはなかったとし、是正と開示の取り組みを説明した。
Ars Technica AI元記事を読む
LINEで送る

AP News AI、GIGAZINE AI、THE DECODER、TechCrunch AI、The Verge AIも報道

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

英AI相、米中は「別格」と発言

Semafor主催「Silicon Valley & The World」で英AI相Kanishka Narayan氏は規模と資本で米中は「根本的に別格」と述べ、両国をプレミアリーグ、英国をチャンピオンシップに例えた

NEWSemafor Tech1時間前

Samsung、Gemini搭載スマートグラスを12月10日発売

SamsungのIntelligent Eyewearは12月10日に米国と韓国で発売、米国価格は395ドルから

NEWImpress Watch1時間前

MicrosoftがCopilot Workspacesを発表

Microsoftは「Frontier」の一環としてWord、Excel、PowerPointが動作する「Copilot Workspaces」を発表し、個人用Autopilotエージェントも近く導入すると述べた

NEWArs Technica AI4時間前

メタAI幹部がMuse宣伝にアルトマン氏のAI動画

Metaの最高AI責任者アレクサンダー・ワン氏が11月上旬、消費者向けAIエージェント「Muse」の宣伝としてサム・アルトマン氏ら4者ビデオ通話をAI生成した短いクリップをInstagramに投稿した

NEWThe Verge AI4時間前

Satya Nadella、AIモデル独占が民主主義を終わらせると

Microsoft Ignite後の円卓会議でSatya Nadella CEOは政治経済について「AGIに開眼した」と述べ、単一のAIモデルが支配的になれば民主主義が終わり得ると警告した

NEWThe Verge AI4時間前

Nvidia暫定CEO、Hugging Face買収は予定通りと表明

暫定CEOコレット・クレス氏はNvidiaのオープンソースAI関与継続を述べ、OpenRouterの週間トークン量が前年比35倍に急増したとし、129億ドルのHugging Face買収が予定通りと確認した

NEWTechCrunch AI4時間前
次の記事へGoogle、Geminiのチャット保持を約2カ月に延長