AI安全専門家、行政権を最大の制御リスクと指摘

何が起きたか

AI安全研究者らは、米国大統領と中国国務院主席が、AI開発ナノテクやバイオ兵器といった複雑なシナリオよりも、AIを使って永続的な権力掌握への最も容易な道を持つと主張している。

なぜ重要か

この指摘はAI安全コミュニティがコントロール喪失リスクをどう扱うかに疑問を投じている。特に安全保障機構のコントロールにおいて、行政権への権力集中が、技術加速シナリオよりも直接的な脅威となることを示唆している。

注目点

この分析は米国と中国に特有なメカニズムの詳細研究を呼びかけているが、単一指導者が事実上の安全保障機構統制権を持つほとんどの国家体制に適用される高度な原則だと述べられている。