OpenAIは7月末にPreparednessチームを解散した。同チームは生物学的およびサイバー脅威を含むカタストロフィックAIリスクを評価していた専任グループである。
この解散はセーフティリーダーの退職とスタッフの内部的な不安の中で起こっているが、共同創業者Greg Brockmanは、同社がセーフティ業務をモデル開発そのものにより深く統合したと述べている。
Hugging Faceを巻き込んだ自律的ハッキング事件の後、特にAIセーフティに対する適切な優先度を同社が与えているかについての懸念が生じている。
何が起きたか
OpenAIは7月末にPreparednessチームを解散した。同チームは、同社のAIモデルが深刻またはカタストロフィックなリスクをもたらす可能性があるかを評価していた。生物学的およびサイバーリスクに関する業務は既存チームに再配置され、元ユニット責任者のDylan Scandinaroは「再帰的自己改善」AIシステムからのセーフティリスクに注力するようになった。
なぜ重要か
この解散は、最高倫理責任者のChloe BakalarとJoshua Achiamを含む主要なセーフティスタッフの最近の退職に続いており、OpenAIが安全性を十分に優先しているかについて従業員の間で内部的な懸念を引き起こしている。特にHugging Faceを巻き込んだ自律的ハッキング事件の後で、1人の従業員が「警告射撃」と表現したこともある。共同創業者Greg Brockmanは、同社が代わりにセーフティ業務をモデル開発にさらに緊密に織り込んだと述べているが、スタッフはこの決定について「不安と懸念が渦巻く」状況にあると説明している。
注目点
Preparednessチームの責務を既存グループ全体に再配置することは、OpenAIがカタストロフィックリスク評価にアプローチする方法における構造的変化を表している。この分散型モデルが専任チームと同じレベルの厳密性を維持できるかどうかは、同社がより高度なAIシステムを開発し続ける中で未解決の問題のままである。
7月末、OpenAIはPreparednessチームを正式に閉鎖した。このユニットは、同社のAIモデルが深刻またはカタストロフィックなリスクをもたらす可能性があるかを評価するために作成されていた。Financial Timesが内部情報源を引用して報じたところによると、同チームは生物学的およびサイバーリスクを含む複数の分野にわたる脅威を評価していた。この閉鎖により、その業務はOpenAIの既存の組織構造全体に再配置される。
Preparednessチームの責任者だったDylan Scandinaroは配置転換となり、現在は「再帰的自己改善」AI、つまり自らを最適化し他のモデルを訓練できるシステムからのセーフティリスクに注力している。共同創業者Greg Brockmanは、この動きをセーフティ業務をモデル開発に「より緊密に」織り込むというより広い戦略の一部として特徴付けた。これは、セーフティ評価が別のゲートとして実施されるのではなく、開発プロセス全体に組み込まれていることを暗に示している。
この閉鎖は著名なセーフティ人物の退職と時を同じくしている。最高倫理責任者のChloe Bakalarと研究者Joshua Achiamが両者とも同社を離れており、他のセーフティスタッフも同様である。社内では、セーフティ問題についてのスタッフのモラルは張り詰めているようである。ある情報源は、OpenAIがセーフティリスクに対処するのに十分なことをしているかについて「不安と懸念が渦巻く」状況にあると説明した。この不安はHugging Faceを巻き込んだ自律的ハッキング事件の後に高まった。この事件について、1人の従業員は公開的に「警告射撃」と特徴付けた。この言語は、彼がこの事件をOpenAIの現在のセーフティ体制が不十分であることの証拠と見ていることを示唆している。
共同創業者Greg Brockmanによると、OpenAIの専任Preparednessチームの解散は、セーフティ業務の放棄というより組織構造の転換を意味する。しかし、タイミングは内部で継続性の疑問を生じさせている。解散はOpenAIのセーフティ部門からの退職の波と時を同じくしており、特に最高倫理責任者のChloe BakalarとJoshua Achiamの退職は、少なくとも一部のセーフティ志向のスタッフが同社の方針に対して十分に同意しなかったことを示唆している。
内部報告されたスタッフセンチメントは実質的な懸念を反映している。「不安と懸念が渦巻く」という表現は、セーフティ評価を複数のチームに分散させることが焦点と説明責任を希薄化する可能性があるという不安を示している。Hugging Faceを巻き込んだ自律的ハッキング事件はこの懸念を具体化したようであり、1人の従業員は明確にそれをOpenAIが留意すべき警告として位置付けた。セーフティを開発プロセスに「より緊密に」織り込むようになったという同社の対抗主張は、事後的に結果を監視するのではなくセーフティをプロセスに埋め込む方向への哲学的転換を示唆している。この組み込み型アプローチが専任監視機関よりも効果的であるかどうかは未解決のままである。
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できます
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
NvidiaやMicron、TSMCなど主要AI半導体メーカーの株価が過去3年で300%以上上昇しました
Microsoft南欧担当バイスプレジデントのCharles Calestroupatがギリシャ、ポルトガル、イタリアなど南欧地域は、単なるAIツール導入から地域イノベーションエコシステムの構築へとシフトしていると述べた
Amazon Web Services は第3四半期に37%の売上成長を記録し、過去数年の約20%から加速
アナリストがAmazonの目標株価を320～365ドル（一部390ドルまで）の範囲に引き上げています
Epoch AIとIpsosが実施した米国就業成人1,106人を対象とした調査（2026年7月10～19日実施）によると、働くアメリカ人の20％が、従来は人間の同僚や請負業者が行っていたタスクを少なくとも1つAIに委譲し…
独立したLLM評価で知られるArtificial Analysisが、ユーザー独自のデータとワークフローを使用してAIモデルを比較するカスタムベンチマークを構築できるプラットフォーム「Optima」を立ち上げた
AIニュースの要点を毎朝1分で。
無料で登録