AmodeiのAI減速提案にAltmanとMuskが支持

Amodeiの記事は作業中止の呼びかけではない。主要開発各社は能力の大きな進歩の間に間隔を広く取り、新モデルを公開前に適切に評価できるようにすべきだという主張だ。それを具体化するため、彼は3段階の手法を示した。企業が広範なアクセス権を持つ独立した第三者評価者を歓迎する段階——Anthropicは既に約束済みとしている——、次に業界横断の協力、そして他国、特に中国も開発ペース管理に同意する形の国際合意だ。

反応は素早かった。MuskはAmodeiのXへの投稿に「Dario is right」と返信し、Altmanは「フロンティアのペースを管理する必要がある」ことに同意すると書いたうえで、OpenAIは従業員に近いアクセス権を持つ独立評価者を歓迎し「同じことをする」と付け加えた。Altmanはまた、この話題がここ数週間のOpenAI社内議論の主要テーマだったと述べ、OpenAI主任科学者のJakub Pachockiは最近、具体的安全基準ができるまで自主的な一時停止か減速を提案していた。

実際の障壁は大きく、記事の他の事実もその方向を示す。Amodei自身、影響力のある連携の一部は「法的に難しい」とし政府の支援が必要だと書いた。Palantir CEOのAlex KarpはCNBCに対し、地政学的な敵対国の存在で一時停止はほぼ不可能だと語り、中国の習近平国家主席が日曜のBRICSでの新たなAIオープンソース共同体とデジタル生態系クラウド基盤に関する発言は、中国に減速する意思がないことをうかがわせる。SDA BocconiのアナリストDion Hinchcliffeは、3人の競争相手が一致したことについて4つの可能性を挙げ——「本当に恐怖を感じた」何かを見た可能性も含む——、公表された理由が全てだと決めつけないよう警告した。これがいずれ実際の減速になるかは、政府の後押しが実現するか、連携がこの3社を超えて広がるかにかかっているように見える。