哲学者Nick Bostromが、AIの実存的リスクは人類の寿命延長の可能性によって正当化される可能性があると主張

Nick Bostromが最近投稿した論文で、AIが人類全体を滅亡させる小さな可能性は、「人類の普遍的な死の宣告」から救う可能性がある進歩したAIのリスク価値があるという仮説を立てた。

Bostromは『Deep Utopia』という新著で、AIが適切に機能すれば生じる「解決された世界」に焦点を当てており、これは彼の2014年の著作『Superintelligence』での実存的リスクに関する悲観的な見方からのシフトを示している。

インタビューの中で、Bostromは現在のAIシステムが道徳的地位を持つかどうかは不明だが、デジタルマインドの福祉により大きな努力を払うべきだと述べ、これらのシステムが自分自身を時間を通じて存在するものとして認識し、相互的な関係を形成する能力を持つようになれば、倫理的な扱い方が重要になると指摘した。