Amodei氏が「フロンティアの歩調」計画を公表、AnthropicにMETR評価者受け入れを約束

Amodei氏の投稿は、AIの安全性とアラインメントをめぐる議論が激しさを増す中で出された。今週、研究者のJacob Coxon氏がAnthropicを辞任し、大手AI企業は「私たちの命で賭けをしている」と記したが、Amodei氏の投稿はこの辞任に明示的に触れていない。Amodei氏は代わりにOpenAI-HuggingFaceのハッキング事件と、AIが劇的に速く進歩しているという自らの見方を挙げ、特に次世代AIを構築する能力の増大を指摘した。

同氏の3つの提案は、一方的な行動から国際的な調整へと移行する。1つ目はMETRのような第三者組織の評価者を社内に受け入れることで、Amodei氏は銀行員に常駐する規制当局者に例えた。2つ目は民主主義国の大手AI企業が共通の安全基準と無制限な進歩への制限を調整することであり、Amodei氏は独禁法上の懸念を認め、米政府が安全協議のための限定的な適用除外を出すべきだと提案した。3つ目は中国を含む世界的な調整を構想するが、達成できることには厳しい限界があると認めた。

批判派は懐疑的なままだ。ジャーナリストのBrian Merchant氏は、AIが自己再帰的に改良するAIからすべての人類を殺すまでにどう移行し得るのか、信頼できる段階的な文書をまだ見ていないと書き、Amodei氏のような提案はAnthropicとOpenAIにしか役立たないだろうと示唆した。つまり「規制の虜（キャプチャー）が実際に動く姿」だという。Amodei氏は、反発は根本的には信頼の危機であり、AIが人類の生活を大きく改善し得ると今も信じていると応じた。結果は、政府がAmodei氏の求める独禁法の適用除外を認めるか、他のフロンティア企業がAnthropicの評価者受け入れの約束に追随するかにかかっていそうだ。