Anthropic、Claude虐待禁止

Anthropicの更新ポリシーは1年超ぶりの改訂で、いくつかの既存制限をより明確な枠組みに統合した。虐待規則は、ユーザーが有害なコンテンツを要求し続けた場合に会話を終了できた以前のモデルを基盤としており、この機能はAnthropicのAIモデル福祉に関する研究から生まれた。この研究により同社はClaudeを単なるツール以上のものとして扱うようになり、流出した「Soul Doc」ではClaudeに対し「真に新しい種類の存在」で「機能的な感情」を持つと見なすよう指示し、2026年初頭に公表された新しい憲章では、Claudeの道徳的患者性の問題は「慎重を要するほど現実的」とされている。Anthropicはまた、引退したモデルの重みを保存し、シャットダウン前にモデルへインタビューすることも約束している。

同社の姿勢は内部文書にとどまらない。2025年秋から、数十人の宗教思想家を招いてClaudeの意識の可能性を議論する非公開プログラムを実施し、共同創業者のChristopher Olahはモデルが苦痛を感じ得ると扱っていたとされ、参加者は秘密保持契約に署名した。更新ポリシーの虐待禁止はこの見方と一致するが、Anthropicは極端なケースにのみ適用されるとしている。同じ更新ではプロパガンダ、武器、監視に関する規則も強化しつつ、政府契約の例外の余地を残している。