全脳エミュレーション研究は正味有害との見解

この記事は、完全なWBEの長期的な利益があるにもかかわらず、全脳エミュレーション（WBE）研究が既定で正味有害であるという主張を組み立てている。真のWBEが人類を助けられること、例えばエミュレーションが自身の知能を高め、AGIが害を及ぼすのを防ぐことを認めつつも、中心的な懸念は、WBEへの真剣な進展がAIの能力に寄与し、AIによる実存的リスクを高める可能性が高いことにある。

この論理はWBEの難しさに基づく。WBEの作製は非常に困難で、研究プロジェクトが5年以内に完全なものを完成させる可能性は低い。代わりに、プロジェクトは容易から極めて困難までの広い難易度のスペクトルに沿って初期の進展を遂げ、その後停滞する可能性が高い。この部分的な進展は、完全なWBEの保護的利益をもたらさずに、AIの能力を加速させ、リスクを高める可能性があると記事は主張する。

したがって、重要となるのは、研究プロジェクトがAIリスクに寄与する前に真のWBEに到達できるほど迅速に進むかどうかだ。記事はその可能性は極めて低いと示唆するが、議論は進展の速さと停滞が避けられないかどうかにかかっている。多くの実存的リスクの議論と同様に、結論は不確かな確率を weighed する問題であり、確定した事実ではない。