AI Futures ProjectがAI 2040規範シナリオを公開

AI Futures ProjectがAI 2040: Plan Aを、多くの強力なAIシステムを備えた未来に社会がいかにアプローチすべきかを示す規範的シナリオとして公開した。本文書は同グループの先のAI 2027の仕事から意図的なシフトを表現している。AI 2027は予測として位置づけられた—著者らがそのような未来は実際にどのような姿になると信じるかを記述する試みである。これに対しAI 2040は明確に規範的である：複数の強力なAIシステムが存在する未来が起こりやすいと仮定した上で、何をなすべきかを記述している。

本計画は著者らが「段階的AI政策ウィッシュリスト」と呼ぶものを含んでいる—近期に実行されることを意図した一連の政策推奨事項である。注目すべき要素の一つは、内部展開と外部展開されるモデルの知能格差を制限することに焦点を当てている。言い換えれば、本計画は組織が内部で使用するAIシステムと公開展開するAIシステムの能力の差を狭める努力を推奨している。この推奨事項はAIへのアクセスと制御の非対称性についての根底にある懸念を反映している。

初期段階の検証者らは複数の根拠から提案への実質的な異議を特定している。いくつかの異議は「枠内」である—つまり本計画の掲げた目標を受け入れるが、提案された段階が実際にそれらを達成するかどうかを問う。他は外的価値の不一致を反映している—本計画の内的一貫性から独立して、検証者が重要と考えるものを犠牲にするか害する懸念である。これらの異議の性質と重要性はAIポリシーと研究コミュニティ内で引き続き議論されている。

AI Futures ProjectによるAI 2040: Plan Aの公開は、予測から規範へのシフトを示している。AI 2027が高度なAIシステムを備えた妥当な未来の記述を目指していたのに対し、AI 2040は規範的領域へ移行し、政策立案者と組織が今その未来に責任を持って対応するために取るべき具体的な行動を主張している。本計画はAIガバナンスの円で深まるAI能力の速度と分布への懸念を反映している。その中核的推奨事項の一つ—内部展開と外部展開の知能格差の管理—は、組織がより強力なAIシステムを内部利用に留め、より低能の版を外部に展開する可能性があり、能力と制御の非対称性を拡大させかねないという懸念を反映している。

本計画はすでに批判的関心を集めている。検証者らは内的一貫性の異議（提案された段階が著者の掲げた目標を実際に達成するかどうかを問う）と、本計画の推奨事項を追求することが観察者が関心を持つ他の価値を保持するかについての本質的な不一致の両方を提起している。これはAIポリシー共同体が提案に真摯に取り組んでいることを示唆しており、その長所は依然として争点となっている。

まだコメントがありません。最初のコメントを投稿しましょう！