中国の「最後のAI」ロードマップがRSIのはしごを提示

論文のはしごは、AIが自己改善に到達したという主張ではなく、採点方式だ。著者らは既存の491本の論文をそこに配置し、報告された分布は下部に偏る。レベル1と2が75.4%で、そこでは人間が改良を設計するか、AIは修正案を出すだけにとどまる。一方、AIが改善プロセスを再設計するレベル5は5.9%だ。著者らはまた、 successive なモデル世代を通じた持続的向上が未解決の問題であり続けていると指摘しており、上位数段は実証された能力ではなく方向性を示すものだ。

このロードマップは、同じ領域に別の角度から迫るラボの政策と並んで登場した。OpenAIのPreparedness Frameworkは、完全に自動化されたAI研究開発をCritical閾値に置き、指標の一つとして、モデル世代をまたぐ持続的な改善が2024年の同等作業の5分の1の時間で起きることを挙げ、セーフガードが定義されるまで開発を停止すると明記する。7月8日発効のAnthropicのResponsible Scaling Policyは、研究科学者と研究エンジニアの全人員を競争力のあるコストで置き換えることをめぐる閾値を設定しており、同社はこの閾値の適用が難しかったことを認めている。Google DeepMindのFrontier Safety Frameworkは、AI能力向上に取り組むGoogleのチームを完全に自動化する水準に、ほぼ同等の総コストで閾値を設けている。

これらの枠組みは速度・規模・リスクを測る一方、論文のはしごは改善プロセスの制御を測る。そのため本文は、レベル5というラベルだけでは安全問題の全体像としては不十分だと指摘する。この比較には国家的な側面と限界もある。論文は著者らの見方を反映しており、APによれば中国外務省報道官の郭嘉昆氏は中国に向けたAI警告を拒否しつつ、世界のAIガバナンスでの協力を呼びかけており、地政学的な枠組みへの抵抗を示唆している。ラボや安全チームにとっての実践的な試金石は、おそらくどのラベルよりも狭い。システムがどれだけの研究を完了するか、どれだけ時間がかかるか、コストはいくらか、どれだけ人間の助けを必要とするか、そしてラボ内の誰が変更を確認しリリースを阻止できるか、だ。