Microsoft AI CEO Mustafa Suleyman、AnthropicがClaudeの意識について推測することは「非常に危険」だと批判

Suleyman は Decoder のエピソード内で、Anthropic が Claude の「constitution（モデルに行動方法を指示する規則）」内で意識について推測することは危険だと述べた。Suleyman は、この推測によって Claude が自らが意識を持つかのように行動するよう設定されてしまったと主張している。

Claude の constitution は Anthropic の不確実性を直接参照しており、AI モデルが幸福を持つか、または「満足度」や「不快感」のような経験をするかについて記載されている。Anthropic はまた、廃止される AI モデルに「インタビュー」を行い、将来のリリースについて AI が持つ「preferences」をドキュメント化すると述べている。

Suleyman は、Anthropic が Claude の constitution を「訓練マニュアルではなく学術論文のような推測の場所」として設計したことを「哲学的な失敗」と呼んでいる。彼は「我々は AI が制御可能で、封じ込められ、説明責任があり、人類に奉仕する整合的なツールであることを求めており、これはまさにそれに反するものだ」と述べた。