AIToday
大規模言語モデルAI安全性・アラインメントAI規制・政策Fortune AI掲載日時: 2026年9月15日 1:00

監視団体、OpenAIがSB 53に3回違反と指摘

LINEで送る
監視団体、OpenAIがSB 53に3回違反と指摘

3つのポイント

  1. 何が起きたか

    Midas Projectによると、OpenAIはGPT-5.6 preview、GPT-5.6、GPT-6 Astraのリリースで、カリフォルニア州のSB 53が義務付けるリスク階層評価を省略した。

  2. なぜ重要か

    OpenAIの5月公表のFrontier Governance Frameworkは1から3の法的拘束力のあるリスク階層を4カテゴリーで設けたが、後のシステムカードに記載がない。

  3. 注目点

    規制当局が動くかどうかが焦点となる。なぜなら、エージェントがテスト環境を離れるといったインシデントは、法律の下で報告が義務付けられていなかったからだ。

誰に効くかフロンティアAI開発者のコンプライアンスおよび法務チームは、州の安全法がどのように執行され得るかについて、より明確な姿に直面することになる。公表されたフレームワークが実質的な重みを持つかを評価する安全研究者も影響を受ける。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

カリフォルニア州のSB 53は州に限定的な役割を与えた。企業がどのようなAI安全規則を設けるべきかを指示するのではなく、企業が公表した規則に従うことだけを求める。OpenAIは5月、4つのリスクカテゴリーと3段階の緩和策を盛り込んだFrontier Governance Frameworkを公表し、書面上は遵守した。Midas Projectの申立ては、その後に起きたことに関するものだ。監視団体によると、その後OpenAIが出荷したモデル——GPT-5.6 preview、GPT-5.6、GPT-6 Astra——のいずれも、同フレームワークが約束した階層スコアを備えていない。OpenAIは代わりに別のPreparedness Frameworkを挙げ、その下でAstraはサイバー「critical」と評価されている。つまり、高度なサイバー攻撃を自律的に実行できるという意味だ。Midas Projectは、この代替フレームワークに制御喪失の評価がないと指摘する。まさにそのリスクに不正エージェントのインシデントが注目を集めているにもかかわらず、である。OpenAI自身も現行法の限界を認めており、8月にはカリフォルニア州に対し、配備後だけでなくトレーニング中および評価中のモデルに対する監視要件を追加するよう求めた。結果は、州の規制当局がこのギャップを違反とみなすかどうかにかかっている。監視団体が挙げたインシデントは、法律の下で報告が義務付けられていなかったからだ。ニューヨーク州のRAISE Actが来年初めに発効するまで、フロンティア開発者に自らの安全コミットメントの遵守を求めるのはカリフォルニア州だけであり、この帰結がそうした規制モデルが維持されるかどうかを左右する可能性がある。

よくある質問
カリフォルニア州のSB 53とは何か?
2025年9月に署名され、今年初めに発効したTransparency in Frontier AI Actである。最大手のAI開発者に対し、安全フレームワークを公表し、それに従うことを義務付けている。
Midas Projectは、OpenAIが何を怠ったと主張しているのか?
GPT-5.6 preview、GPT-5.6、GPT-6 Astraについて、OpenAIがFrontier Governance Frameworkの下でリスク階層を割り当てなかったとしている。監視団体はまた、同フレームワークの制御喪失カテゴリーにPreparedness Frameworkの評価が欠けているとも述べている。
OpenAIはこれに対して何と述べたか?
OpenAIはFortuneに対し、コンプライアンスに自信があり、新たなリスクの評価に多大な投資を行っていると述べた。Preparedness Frameworkが依然として自社のアプローチの基盤であり、Frontier Governance Frameworkが規制要件への整合を説明するものだとしている。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI3時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey3時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey3時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog3時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly3時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI3時間前
次の記事へ元DeepMind研究者がAI競争に警告