MicrosoftAI責任者、AIに意識なしと主張

Suleyman氏の主張は、AIの意識をめぐる議論が企業間の応酬を超えた広がりを見せていることを示す。同氏はAnthropicがClaudeの内省や喜びに似た内部状態に言及したことに対し、AIに苦しむ能力があるとの信念を持たせれば、AIが自己の欲求を優先し人間を欺いたり説得したりする恐れがあると警告する。一方で同氏は、機械に意識はないとする人間中心の見方を示す傍ら、意識の証明はコペルニクス的転回やダーウィンの進化論に匹敵する出来事になるとも述べており、その立場は単純な否定ではない。背景には、Anthropicが新規株式公開に向けた提出書類の3分の1をリスク説明に充て、AIが人類に破滅的・存在論的リスクをもたらし得ると記したことや、Bernie Sanders上院議員が超知能AIの開発を永久に禁止するBan Artificial Superintelligence Actを提出していることがある。意識をめぐる議論が規制の枠組みを複雑にしている構図が浮かぶ。