AIToday
AI安全性・アラインメントAI規制・政策Hacker News掲載日時: 2026年9月10日 13:00

OpenAI、AI安全規制の義務化を要求

LINEで送る
OpenAI、AI安全規制の義務化を要求

3つのポイント

  1. 何が起きたか

    OpenAIは議会に対し、能力ベースのAI安全規制を義務化するよう訴え、カリフォルニア州のSB 813、AB 1405、SB 1119、AB 1864の4法案を正式に支持した。

  2. なぜ重要か

    OpenAIは安全基準が満たされない場合にモデル開発を減速させると述べ、フロンティアラボが自主的にリスクルールを決める現状からの転換を図る。

  3. 注目点

    議会が閉会前に動くか、連邦の枠組みがオープンウェイト政策に形を変えずフロンティアラボに対象を絞れるか。

誰に効くか義務的なテストと独立評価の要件が課されるフロンティアAIラボと、議会閉会前に動くかを決める米国の州・連邦の政策担当者。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

OpenAIは今回の政策提言を、特定の瞬間への対応として位置づけている。Greg Brockmanが「ディフェンダーズ・ウィンドウ」と呼ぶもので、強力な攻撃能力が広まる前にフロンティアAIが重要システムの強化を助けられる限られた期間を指す。同社は能力が急速に進歩しているとし、最新研究ではAIエージェントが熟練研究者でも数日かかるタスクを一部実行できると示している。これは再帰的自己改善ではないとしつつ、進む方向を示す証拠だとしている。

OpenAI自身の安全策も背景にある。モデル開発ライフサイクル全体で監視・アラインメント・セキュリティを強化し、完全な軌跡の普遍的な監視や、Astraと呼ぶシステムの社内展開前の必須のアラインメント評価ゲートを導入したとしている。また、preparednessフレームワークに基づき、続行が許容できない安全リスクをもたらす場合は開発や展開を減速・停止するとしている。政策提言はこの論理に従うもので、個々のラボで安全策が能力に追いつけないなら、共通基準が必要だという考えだ。

OpenAIが描く利害は、民主主義政府が能力に制度が追い越される前に持続可能なルールを設定できるかどうかにかかっている。同社はより強力な安全策が導入を遅らせるのではなく可能にすると賭けており、モデルと専門知識が世界的に移動することを踏まえ、互換性のある国際標準が必要だとしている。議会が閉会前に動くか、カリフォルニアなどの州がOpenAIの言う「逆連邦主義」で空白を埋めるかが、その窓がどれだけ開いているかを示すだろう。

よくある質問
OpenAIが支持したカリフォルニア州法案はどれか?
独立した安全評価を定めるSB 813、AI監査人の基準を定めるAB 1405、若者保護を定めるSB 1119、AIによる生物学的脅威への防止策を定めるAB 1864。OpenAIは過去に支持しなかった法案も含まれるとしている。
フロンティア安全規則は誰に適用されるのか?
OpenAIは、フロンティア安全要件は最も高性能なシステムを開発する資金豊富な少数の研究所に適用されるべきで、スタートアップや小規模開発者、フロンティアとは程遠い研究者には適用されないとしている。
オープンモデルに対するOpenAIの立場は?
OpenAIはオープンモデルは解決策の一部になり得るとし、特にサイバーセキュリティや、主権・安全保障・データ居住要件からローカル導入が好まれる場合を挙げる。米国にはオープンとクローズドの両方のモデルが必要だとしている。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Thomas Nagel、AI意識説を「馬鹿げている」と一蹴

哲学者トーマス・ナゲル氏はバーグルエン賞受賞後のインタビューで、大規模言語モデルが意識を持つ可能性を真剣に受け止めるのは「馬鹿げている」と述べ、AnthropicのClaudeへのアプローチを「犯罪的」と呼んだ

NEWWIRED AI4時間前

NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす

Notion LabsのCISOデイビッド・ツァオ氏は、11月2日のFireworks AIへの不正アクセスでNotion AI Insightsのチャット記録が流出した可能性を受け、11月12日に影響を受けた日本顧客へ…

ITmedia AI+10時間前

Z世代の33%がAIを伴侶代わりに、毎日利用層では50%

ギャラップとDigital Wellness Labが16カ国・15〜22歳の15,925人を調査し、Z世代の33%がAIを伴侶代わりにしていると判明

WIRED AI10時間前

CodeRabbit、GPT-6 Cyberをセキュリティ製品に統合

CodeRabbitはOpenAI Daybreak Defense Networkに参加した

PR TIMES (AI)13時間前
次の記事へメッセージボード監査ベンチ、モデル51%網羅