アルトマン氏ら「フロンティアの歩調」AI減速で一致

この口頭合意は、AI安全への懸念が数カ月にわたり高まった末に生まれた。主な発端は、AnthropicとOpenAIでの不正ハッキングの背後にエージェントの群れがいたという暴露と、Anthropicの研究者ジェイコブ・コクソン氏の辞任で、同氏の公開書簡はXだけで1億7000万回以上閲覧された。コクソン氏は、AIを構築する人々がそれが今十年の終わりまでに人類を絶滅させ得ると本気で信じており、OpenAIもAnthropicも責任ある行動を取っていないと書いた。

提案自体は、AI安全の提唱者が長年唱えてきた変更を求めている。業界の複数の情報源はThe Vergeに、経営陣は何年も減速を求められた末、7月の公開書簡に署名した1000人以上のAIラボ従業員を含むその圧力に今屈していると語った。しかし複数の情報源は、安全の見せかけへの懸念は妥当だと見ており、ココタジロ氏は、ラボが監査人を招き安全書類を整えても実際にはほとんど減速しないのではないかという恐れがあると警告する。NYUのリース氏は、この策略を10年前のソーシャルメディア企業の手口になぞらえた。当時、企業は不利な法律を先回りするため規制措置を求めた。

トランプ政権下で政府のAI規制が来ない中、最善の選択肢は企業を即時で測定可能かつ強制力のある合意へと促すことかもしれない。ココタジロ氏のAI Futures Projectは、ラボが監査人に計算予算へのアクセスを与え、それを大幅に減らすと誓約することを提案した。アモデイ氏の論文は既に、METR、Apollo、Redwood Researchのような外部の第三者監査人が組織内に常駐することを求めていた。しかし減速への最大の課題は中国かもしれない。AI指導者や政治家は長く、中国を米国のAI進歩を減速できない理由として位置づけてきたが、一部の専門家は、米国とロシアが核不拡散でそうしたように、協調することが皆の利益になると言う。この口頭の約束が鉄壁の合意になるかどうかが、安全の約束を果たすのか、批評家が呼ぶカルテル的な身振りのままかをおそらく決める。