Coxon氏、AIラボは命で賭博と警告

警告を発しているのは、この技術の構築を担った人々である。Jacob Coxon氏の離脱は、経済学者Albert O. Hirschmanが「退出」対「発言」と呼んだパターンに従っている。機関を去れば公に語る自由を得るが、留まればアクセスと影響力を得る。しかし、後に危険と評するシステムに長く関わった人ほど、原則に基づく異議と後付けの免罪を切り分けるのは難しくなる。

最先端ラボを依然運営する側にとって、ジレンマは留まるかどうかから減速するかどうかへ移る。Anthropic CEOのDario Amodei氏のエッセイは、安全研究が追いつけるよう最強モデルを減速すべきだと論じるが、提案する制限はAnthropic単独ではなく業界全体の協調に依存する——安全への懸念が商業的・地政学的競争と衝突するという認識だ。OpenAI CEOのSam Altman氏も同様に開発のペース配分を主張し、AIが人間の制御を逃れる可能性を認め、主要企業が集団行動を協議中だと示唆した。

いずれ、警告は企業が実際に何を変えるかの決定につながらねばならない。結果を左右するのは、最強のAI構築を競う企業が共に減速することで合意できるか、そして誰が制限を設定すべきか——Altman氏が今公の場で格闘している問いである。