OpenAIが月末にAIモデルのリスク評価・軽減を担当していた準備性チームを解散しました。責任はバイオとサイバーなど特定分野に分割され既存チームに統合されます。
同社は過去数年でAGI準備性・超インテリジェンス整列の各チームも解散しており、倫理・安全責任者らも相次いで退職。
批評家からは安全性よりも製品開発を優先しているとの批判が出ています。
何が起きたか
OpenAIが先月末に準備性チーム（preparedness team）を解散しました。このチームはAIモデルが深刻なリスク（例えば他社のシステムへの不正侵入など）を引き起こす可能性を評価し、リスク軽減策を開発していました。責任は現在、バイオセキュリティとサイバーセキュリティなど特定分野に細分化され、既存チームに移されています。
なぜ重要か
OpenAIは過去数年間でAGI準備性チームと超インテリジェンス整列チームを解散しており、今回の決定はその流れの一部です。倫理責任者のChloé Bakalar、最高未来責任者のJosh Achiam、安全責任者のJohannes Heideckeも最近相次いで退職し、2024年に同社を辞めたJan Leikeなど批評家は、OpenAIが「派手な製品」の開発を優先させて安全性を軽視していると指摘しています。
注目点
準備性チームの責任者であるDylan Scandinaroは（2月にAnthropicから引き抜かれた）、今後「再帰的自己改善」するAIの影響に焦点を当てます。これらの組織変更は、同社が大規模IPOに向けて進行している内部体制の激動の一部とみられます。
OpenAIの組織再編は、同社がIPO準備を進める中での戦略的転換を反映しています。Financial Timesの報道によると、準備性チームの解散は孤立した決定ではなく、過去数年間でAGI準備性チームと超インテリジェンス整領チームの解散、そして倫理・安全責任者の相次ぐ退職につながる継続的なプロセスの一環とみられます。これらの変更に対して、2024年にOpenAIを辞めたJan Likeのような批評家は、同社が安全性評価よりも「派手な製品」開発を優先させているのではないかという懸念を表明しており、AI企業の成長と安全性確保のバランスについての議論を触発しています。
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できます
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
生物学的変化を予測するAIモデルを開発するAstromechが、2000万ドルの資金調達を実施しました
Anthropicの投資部門Odeが、企業向け人工知能サービスの拡大を目的としてCasper Studiosを買収した
AI企業 Anthropic が月末までのIPO申請を目指しており、非公開の経営幹部らは SpaceX が6月に調達した750億ドル（オーバーアロットメント・オプション実行時は862億ドル）を上回る資金調達を望んでいます
韓国のAIインフラプロバイダーElice Groupが、40℃を超える温水冷却を採用した韓国初のAIデータセンターの立ち上げを発表し、エンタープライズAI変革ソリューションへの事業拡大も進めている
