アルトマン氏ら、アモデイ氏のAIラボ監視提案を支持

Dario Amodei氏によるAIラボ内での独立した監視の訴えは、業界を代表する著名人たちから少なくとも部分的な支持を集めた。Sam Altman氏、Elon Musk氏、Demis Hassabis氏はいずれもこうした監視の必要性で一致したが、Musk氏はかねてAIリスクを警告してきたため、彼の支持は他の2人ほど意外ではない。この支持は、人材・資金・注目を巡ってしばしば競い合う経営者たちの間で、珍しい一致点が生まれたことを示している。

Altman氏がFortuneに対し、安全性への懸念を理由にOpenAIは今年上場しないと述べたことは、第2の論点を加える。この決定は6月に社内で既に共有されていたため、公の場での確認はまったく新しいものではない。記事はもう一つの見方にも触れている。OpenAIの財務状況は現時点でIPOを支えておらず、特にAnthropicと比べればなおさらだというものだ。両方の説明が同時に真である可能性もある。

分野の全員がこの慎重な見方を共有しているわけではない。Googleの研究者Peyman Milanfar氏は、フィードバックループが本質的に不安定なため、再帰的自己改善は素朴な仮定だと論じた。同氏の見方では、確実に自己改善するシステムは統治され、抑制され、緩やかになり、信頼できる証拠はベンチマークではなく現実世界から得られる。それゆえAmodei氏の「速度制限」は不要だと同氏は主張する。AIラボが安全性対策と競争圧力を天秤にかける中で、この議論は続きそうだ。