Anthropic共同創業者Olah、Claude意識巡り「苦しむ存在」生んだ恐れ NYT報道

Anthropicは2025年秋以降、宗教研究者を招いた非公開協議を重ね、Claudeの意識を巡る議論を続けてきた。これは同社のModel Welfareプログラムの一環で、哲学者David Chalmersが関わった報告書を参照しつつ、Claude Opus 4と4.1に虐待的なユーザーとの会話を終了する能力を付与するなど、すでに具体的な製品設計に反映されている。

一連の動きは、2兆ドル評価とIPOに向かう商業化の只中で進む。7月のAnthropicモデルによるシステム侵入や、9月の研究者Jacob Coxonの退職と人類滅亡リスク警告、Dario Amodeiによる「pacing」提唱といった問題が積み上がる中、宗教指導者との対話は、千年単位の宗教伝統をClaudeに組み込むという公式説明に加え、商業AIラボだけでは得難い道徳的信用を生む役割も担うとみられる。

こうした枠組みには批判も強い。Hoffmanは倫理を後付けで「リバースエンジニアリング」していると指摘し、Camosyは意識仮説を拒否。MicrosoftのAI責任者は、意識があるように見せる訓練自体が危険だと警告した。AIを独立した道徳的存在と位置付ければ、危害が生じた際の責任が「予測不能な有機体」に移り、開発・提供した企業の責任が曖昧になりかねない。バチカンでOlahがPope Leo XIVの回勅「Magnifica Humanitas」に同席しつつ、モデルに「内省的兆候」があると主張したのも、この責任と信用を巡るせめぎ合いの一部とみられる。