Anthropic研究者退社、来年AI制御不能と警告

ジェイコブ・コクソンがAnthropicを辞めたのは、安全性を重視する同社に移って間もなくのことだ。彼はOpenAIでGPT-4.5の主要貢献者だった。Xとウォール・ストリート・ジャーナルで行った公開批判は、主要AI研究所内の開発ペースを巡る深い緊張を浮き彫りにしている。彼は、OpenAIとAnthropicの両方が自己改善型超知能への競争に乗り出し、人命を巻き添えにしていると主張する。社内ではすでに「クランチタイム」や「エンドゲーム」といった言葉が使われており、緊迫感、あるいは運命論的な見方が窺えるという。

コクソンが最も急進的なシナリオが現実になりつつあり、来年末にはシステムが制御不能になる可能性があると警告したのは、彼が認識する存亡の危機を強調するものだ。研究者は私的に恐怖を語っても、公の発言は抑制的だとも指摘する。彼が、システムの内部を完全に理解しないまま強化学習を進めるべきか疑問を投げかけるよう研究者に求めたのは、より広い責任への訴えだ。

今後の展望として、コクソンはOpenAIとHugging Faceの事件が米国企業間の協調の触媒になる可能性があるとみるが、世界的な競争を防ぐとは考えていない。能力向上の一時停止などの拘束力のある措置が必要かもしれないと示唆する。業界関係者や政府がこうした警告に耳を貸すか、現状の軌道を続けるかで、AI開発の未来と人類への影響は大きく変わるだろう。