AIToday
大規模言語モデルAI安全性・アラインメントThe Rundown AI掲載日時: 2026年9月16日 22:00

中国の「最後のAI」ロードマップがRSIのはしごを提示

LINEで送る
中国の「最後のAI」ロードマップがRSIのはしごを提示

3つのポイント

  1. 何が起きたか

    中国の研究者35人が「人類が作る最後のAI」を発表し、5段階の再帰的自己改善ロードマップを提示。491本の論文を分類し、75.4%がレベル1〜2、5.9%がレベル5だった。

  2. なぜ重要か

    著者らはRSIをマイルストーンと位置づける。OpenAI、Anthropic、Googleはいずれも大規模な研究自動化をリスク領域として扱う。

  3. 注目点

    ロードマップは改善の制御を測るが、ラボの枠組みは速度・規模・リスクを評価するため、レベル5だけでは不十分だ。

誰に効くかラボのAI安全・ガバナンスチームに加え、研究インフラやリリース承認の担当者は、研究が加速した場合に誰が変更を確認し誰がリリースを阻止できるかをめぐり、より難しい判断を迫られる。本文の枠組みはそう示唆する。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

論文のはしごは、AIが自己改善に到達したという主張ではなく、採点方式だ。著者らは既存の491本の論文をそこに配置し、報告された分布は下部に偏る。レベル1と2が75.4%で、そこでは人間が改良を設計するか、AIは修正案を出すだけにとどまる。一方、AIが改善プロセスを再設計するレベル5は5.9%だ。著者らはまた、 successive なモデル世代を通じた持続的向上が未解決の問題であり続けていると指摘しており、上位数段は実証された能力ではなく方向性を示すものだ。

このロードマップは、同じ領域に別の角度から迫るラボの政策と並んで登場した。OpenAIのPreparedness Frameworkは、完全に自動化されたAI研究開発をCritical閾値に置き、指標の一つとして、モデル世代をまたぐ持続的な改善が2024年の同等作業の5分の1の時間で起きることを挙げ、セーフガードが定義されるまで開発を停止すると明記する。7月8日発効のAnthropicのResponsible Scaling Policyは、研究科学者と研究エンジニアの全人員を競争力のあるコストで置き換えることをめぐる閾値を設定しており、同社はこの閾値の適用が難しかったことを認めている。Google DeepMindのFrontier Safety Frameworkは、AI能力向上に取り組むGoogleのチームを完全に自動化する水準に、ほぼ同等の総コストで閾値を設けている。

これらの枠組みは速度・規模・リスクを測る一方、論文のはしごは改善プロセスの制御を測る。そのため本文は、レベル5というラベルだけでは安全問題の全体像としては不十分だと指摘する。この比較には国家的な側面と限界もある。論文は著者らの見方を反映しており、APによれば中国外務省報道官の郭嘉昆氏は中国に向けたAI警告を拒否しつつ、世界のAIガバナンスでの協力を呼びかけており、地政学的な枠組みへの抵抗を示唆している。ラボや安全チームにとっての実践的な試金石は、おそらくどのラベルよりも狭い。システムがどれだけの研究を完了するか、どれだけ時間がかかるか、コストはいくらか、どれだけ人間の助けを必要とするか、そしてラボ内の誰が変更を確認しリリースを阻止できるか、だ。

よくある質問
論文における再帰的自己改善の5段階とは何か?
レベル1ではAIが人間の設計した改良を実行し、レベル2では弱点を診断して修正方法を決める。レベル3と4では、モデルが次に何を学ぶか、導入後にどう適応するかの決定をAIに委ねる。レベル5ではAIが改善プロセス自体を再設計できる。
なぜ研究者らはコーディングをRSIへの最も明瞭な道と見るのか?
論文によれば、ソフトウェアの変更はテストから即座にフィードバックを得られる一方、ロボティクスや科学、医療はフィードバックが遅くコストも高い。ただし、変更がシステムを改善したことを示すには依然としてテストが必要だ。
OpenAI、Anthropic、Googleは自動化されたAI研究をどう扱っているか?
OpenAIのPreparedness Frameworkは、完全に自動化されたAI研究開発をCritical閾値に置く。指標の一つは、モデル世代をまたぐ持続的な改善が2024年の同等作業の5分の1の時間で起きることだ。7月8日発効のAnthropicのResponsible Scaling Policyは、研究人材の置き換えをめぐる閾値を設定しており、Google DeepMindのFrontier Safety Frameworkは、AI能力向上に取り組むGoogleのチームを完全に自動化する水準に閾値を設けている。
The Rundown AI元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前
次の記事へArcee AI、10億ドル評価で資金調達