Anthropic共同創設者のOlahがローマ教皇Leo XIV の回勅発表で、AIモデルが内省の兆候を示していると述べる

Anthropic共同創設者Christopher OlahがPope Leo XIVの回勅「Magnifica Humanitas」の発表に同席し、Anthropicの内部研究を引用して「AIシステムの内部に内省の証拠、そして機能的には喜び、満足感、恐怖、悲しみ、不安を反映する内部状態を見出している」と述べた。

Pope Leo XIVの回勅はこれとは異なるトーン。「この種の『知能』を人間の知能と同一視することの誤解を避けなければならない。これらのシステムは単に人間の知能の特定の機能を模倣しているに過ぎない」と述べ、AIシステムは「経験を受けない、身体を持たない、喜びや痛みを感じない」と指摘した。

回勅はまた、AIの軍事的利用について警告し、「致命的または取り返しのつかない決定は機械に委ねるべきではない」と述べ、アライメント（AI倫理調整）についても批判。「より道徳的なAIは、その道徳性が少数派によって決定されるのであれば十分ではない」と指摘し、抽象的な倫理ではなく強固な法律と独立した監視を求めた。