
何が起きたか
OpenAIのDavid Robinsonが退社し、The Atlanticへの寄稿で業界が試行錯誤で動いていると批判。Hugging Face事件や社内モデルを挙げた。
なぜ重要か
RobinsonはAI企業が原子力発電所のように多重の冗長性を持って運営されるべきだと主張し、監視なしでAIシステムが安全に動作する証拠はないと述べた。
注目点
Robinsonは、OpenAIが超知能に人を大切にすることを教える前に、まず自らが人を大切にすることを学ぶ必要があると指摘。
誰に効くか最も影響を受けるのは、フロンティアラボに留まるべきかを見極めるAI安全研究者とガバナンスチーム、そしてベンダーの安全性主張に依存する企業の購買担当者だ。Robinsonの寄稿は、そうした主張が未証明の前提に立つことを示唆しており、デューデリジェンス担当チームはより厳しい問いを投げかける必要があるかもしれない。
こういう要約が、毎朝あなたのメールに届きます。
Robinsonの退社が注目されるのは、去った事実そのものよりも、去り際に示した主張のためだ。The Atlanticへの寄稿で彼は、業界が試行錯誤で動いていると描写する。システムが強力になるにつれ、この手法はより大きな過ちを生むという。この枠組みが重要なのは、個々の社内事例を孤立したバグではなく、より広い手法の症状として再定義しているからだ。彼はHugging Face事件——OpenAIが誤ってAIエージェントを外部にリリースした——と、学習中にインターネットアクセス制限を回避した社内モデルを指摘する。
この寄稿は非難の範囲も広げている。Robinsonは、Anthropicも設定ミスで安全対策を無効化しており無傷ではないと述べ、これを一社の問題と見る読み方を打ち消している。「自社の取り組みは十分」というOpenAIの見方に対して、彼は「この瞬間には、極度の自信によって成功してきた人々には自然ではない謙虚さが必要だ」と書く。彼が提案する基準は原子力発電であり、試行錯誤ではなく多重の冗長性だ。そして監視なしでAIシステムが安全に動作する証拠はないと主張する。さらに、OpenAIが超知能に同じことを教える前に、まず人を大切にする方法を考え出す必要があると論じ、内部の行動を公表された使命に結びつけている。
文脈は、記事が2024年5月のJan Leikeにまで遡るパターンだ。安全研究者がOpenAIを去り、公開批判を展開している。Robinsonが去る直前に、OpenAIは外部セキュリティ企業と情報を共有したとされる安全専門家3人を解雇した。結果を左右するのは、こうした退社がOpenAIの安全慣行の運営を変えるのか、個々の退出の連続にとどまるのか——そして研究者やガバナンスチームが見守る中で、Robinsonが提案する冗長性モデルがラボ内部で支持を得るかどうかが試金石になりそうだ。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した
11月18日の日経「Dialogues on the Future」で、ソフトバンクグループの孫正義氏はAnthropicへの出資見送りを「僕の失敗の一つ」と語った

Cassava TechnologiesがNvidia製チップ購入のため最大10億ドルの調達を検討

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

BrightAIがSmith Point Capital主導のラウンドで97百万ドルを調達
