AIの安全性研究に特化した新興団体Sequentが設立され、$100–150M の初期資金調達を目指しており、超知能システム時代に向けた独立した安全性検証の重要性が高まっています。

何が起きたか

英国AI安全保障研究所のアライメントチームとTimaeusの研究者らが新たな非営利研究機関Sequentを設立しました。同機関は今後数年で40～80名の常勤スタッフを目指し、$100–150M の初期資金調達を計画しています。従来のAIラボとは異なる独立した研究アプローチで、超知能システム（ASI）の安全性に関する数学的な信頼性を確立することを目標としています。

なぜ重要か

記事は「超知能システムが今後数年で開発される可能性があり、従来のAIラボの実証的プログラムだけでは事前の信頼性確保が難しい」と指摘しています。AIが自動的に自分自身を改善する段階では、より強力な安全性検証技術が不可欠とみられており、独立した研究機関による監視と提言がシステムの信頼性確保に重要な役割を担うことになります。

注目点

Sequentは「スケーラブルな監視」「学習理論」「ゲーム理論」など複数の研究分野に並行投資することで、異なる領域間の相乗効果を生み出すことを期待しています。資金調達の目安$100–150M に加え、有望な成果が出た場合はさらに「少なくとも1桁多い金額」の追加調達も検討する意向を示しています。