Anthropic幹部、AI命で賭博と退社

Anthropicの研究者ジェイコブ・コクソン氏の辞任は孤立した出来事ではない。Anthropic内部でも、アラインメント科学責任者は、AIが今後10年で「全人類を殺す」確率が10%超ある可能性に同意した。OpenAIの主任科学者も研究減速を主張し、サム・アルトマンCEOは、政府が反トラスト法上の問題ではないと言えば、最先端AI作業の減速を検討しているとスタッフに伝えたと報じられている。記事はこれらを、調整された転換ではなく、長くくすぶってきた議論の一部として位置づけている。

本当の筋はこの乖離にある。同じ週に、Meta、OpenAI、DeepSeekなどが新モデル、エージェント、アプリを相次いで発表した。記事の筆者は、AIを制御できない具体的な理由が示されていないとして、終末論者にはまだ幾分懐疑的だとしつつ、この矛盾は認めている。それとは別に、状況を遅らせる可能性がある力として、データセンターへの反対の高まりがある。記事によれば、これによりテック大手は地域社会の説得に多くの労力を要することになる。

これが読者にとって何を意味するかは不確かだ。記事は、安全をめぐる議論が行動に移るかどうかは述べておらず、こうした実存的懸念が何かを変えるのか見守る必要があると指摘している。AIラボの従業員や経営陣にとっては、内部の懸念がリリースペースの変更につながるかが問いとなる。データセンター計画を検討する地域社会にとっては、哲学的な議論よりも目先の摩擦の方が重要かもしれない。