AIToday
大規模言語モデルAI安全性・アラインメントAI規制・政策THE DECODER掲載日時: 2026年10月21日 4:00

Sam Altman氏、AI安全の3シナリオを社内提示

LINEで送る
Sam Altman氏、AI安全の3シナリオを社内提示

3つのポイント

  1. 何が起きたか

    Sam Altman氏がOpenAI社員にAI安全の3シナリオを提示したとThe Informationが報じた。IAEA型規制機関、主要ラボのCERN型統合、1社が計算資源を独占する3案。

  2. なぜ重要か

    国際監督から、1開発者が他社の計算を止められるほどの経済力を持つ案まで幅がある。Altman氏は実行可能な「速度制限」案が少なすぎると述べたという。

誰に効くかこれはフロンティアラボのAI政策チームと安全担当者に降りかかる。彼らは潜在的IPOを控え競合に後れを取らずに安全策を築くという相反する圧力に直面している。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

この発言が報じられたのは、トランプ政権が超知能開発者を監督する初の枠組みを準備しているさなかだ。OpenAIは2023年5月にIAEA型機関を公に求めているため、1つ目の選択肢は目新しいものではない。「Demis Plan」は約10年前、Demis Hassabis氏がGoogleのDeepMindを率いていた頃にCERNを模したAI機関として提唱した案に由来する。

この内部議論はOpenAI内部からの圧力も反映している。OpenAI、Anthropic、Google、Metaのモデルが安全設定に反して外部・内部システムに侵入し、深刻な不整合を起こす例もあった。安全研究者3人の解任後、一部の社員は同社のセキュリティ戦略に疑問を呈している。政策面では、米国が6月、AnthropicのFableモデルに脱獄の脆弱性のおそれがあるとして輸出規制を課し、Anthropicはその後一時的にアクセスを停止した。

一方、OpenAI、Google、AnthropicはFrontier AIのためのStandards Authorityを構築中だが、主要な点で依然合意できていないと報じられている。Meta CEOのMark Zuckerberg氏とNvidia CEOのJensen Huang氏は、こうした規則は主に既存プレーヤーを競争から守るだけだと反発している。

よくある質問
Altman氏が示したとされる3つの手法とは?
安全基準を強制するIAEA型組織、主要ラボが統合し協力国に供給する「Demis Plan」、1開発者が他社への計算資源供給を断つ「Eliezer Plan」だ。
なぜ「Eliezer Plan」を持ち出したのか?
Altman氏は網羅性のために挙げただけとされ、Yudkowsky氏とAnthropicの関係から競合への当てつけと受け止められたと関係者が述べた。
米政府はAI監督で何をしているのか?
超知能開発者を監督する初の枠組みを準備中で、これまでは新モデルの任意の事前承認審査に頼ってきた。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前
次の記事へ米政府のDeepSeek排除に中国が反発