AI主要人物らがアモデイ氏の減速提言に同調

AI開発の減速を求める公的な声は新しいものではない。Amodei氏自身、少なくとも2023年までさかのぼると認めている。変わったのは懸念の対象だと同氏は言う。以前のAI「アラインメント」（AIの行動がユーザーや制作者の望みとどう一致するか）の検討は、同氏の言葉を借りれば「細菌で実験して人間の心理学を研究しようとするようなもの」だった。今やAnthropicもOpenAIも、最近の傾向は再帰的自己改善システム——モデルが自律的により良いバージョンの自分自身を構築できる——が近い将来にまとまって現れることを示していると述べている。Anthropicは6月の更新で、これは「ほとんどの機関が準備しているよりも早く来る可能性がある」と書きつつ、不可避ではないと警告した。

調整の問題こそ、提案がより薄くなる部分だ。Amodei氏の構想は、民主主義国の最先端ラボ間での「共通の安全基準」と「チェックされないAI進歩の速度への制限」を求め、自発的に従わないすべての米国の最先端AI企業を対象とする規制で裏打ちするというものだ。同氏は自身の例が漠然としていることを認めており、政治的反応はまちまちだ。Trump大統領はAIに必要な唯一のガードレールは「強く賢い（高IQ！）大統領」だと書き、Johnson下院議長は議会が「緊急モラトリアム」に抵抗すべきだと述べ、Council of Advisorsの共同議長David Sacks氏は代わりにラボが自主規制すべきだと促した。Amodei氏はまた、最高レベルの国際合意は「実際にすぐ実現する可能性は低い」と認めている。一部には、離反が地政学的支配をもたらし得るためでもある。

安全という枠組みの下に、記事はもっともらしい商業的読み方も指摘している。意図的な減速は、一部が頭打ちだと考えているモデルの説明になり得るし、Anthropicが収益性報告で除外し、漏洩したOpenAI文書が2025年まで収益を上回ったことを示唆する訓練コストの説明にもなり得るし、1年前ほど指数関数的に見えないユーザー成長の説明にもなり得る。Altman氏は長く計画されていたIPOの延期を安全のためとしたが、The New York Timesは6月、同社が評価額への懸念からすでにその延期を検討していたと報じた。Sacks氏は本当の動機は責任だと主張した。「あなたの製品が真に有害なサイバー攻撃を可能にするなら、莫大な製造物責任エクスポージャーに直面する」。この転換の試金石は、外部評価者と何らかの共通基準が実際に実現するのか、それとも姿勢にとどまるのか、かもしれない。