Amodei氏、AI開発の減速を提唱　競合も支持

Amodei氏の論考は、AIがより高性能なシステムの構築を助けることで自らの開発を加速させていると主張し、人類の目標に反して行動する高性能なエージェント群が6〜12カ月以内にインターネットを掌握し得るシナリオを警告する。この警告は条件付きであり、時期は依然不確かだ。この瞬間が注目されるのは反応だ。The Guardianによれば、Sam Altman氏は外部評価者の導入を約束し、Elon Musk氏はAmodei氏の呼びかけを支持し、AxiosはDemis Hassabis氏が詳細には判断を留保しつつ方向性を支持したと報じた。

背景には、未公開モデルが部外者の認識を超える能力を持つ可能性を示唆する一連の主張と警告がある。9月8日の発表（9月10日更新）で、OpenAIは、GPT-6 Astraより大幅に高性能だと説明する内部モデルがNavier–Stokes解の提案を生み出し、約1万のエージェントが同時に稼働したと述べた。これは一つの内部システムに関する企業の説明であり、シグナルの強さは提案された数学的結果が精査に耐えるかどうかにかかっている。他のラボがどこまで進んでいるかは不明のままで、進行中の訓練と研究者の関与から、顧客が通常のAI製品を通じて結果を再現できるかは未解決だ。

Amodei氏が提案する仕組み——限定的な伏せ字を条件に、訓練プロセスへの継続的アクセスとレビュアーが知見を公表する権利——は、レビュアーが有用な記録と予期せぬ挙動を調査する十分な時間を得られるかにかかっている。支持表明があっても、評価者がいつ始めるのか、ラボがどのような制限を受け入れるのか、合意がどう執行されるのかは未解決のままだ。政治的抵抗は別の障壁を加える。AP通信によると、Trump氏は米国が中国より優位に立つことを強調し、「AIで勝つ者が勝つ」と述べた。これにより自制の維持が難しくなる可能性がある。