意識は情報処理だけに依らない 計算機能主義に致命的欠陥

Natureの論考は、Butlin報告によってすでに形作られた議論に加わるものだ。同報告は主要な神経科学理論を基に14指標のチェックリストを作り、GPT-4のような大規模言語モデルを含め、検討したシステムのいずれも意識の有力候補ではないと結論づけた。Butlin氏らは「実用的な理由から」計算機能主義を明示的に採用し、意識が生物の特性に結びつくなら自分たちの指標はもはや信頼できないと認め、反対意見の支持者としてAnil Seth氏を挙げていた。論考はまさにそこを捉え、生物の脳では何をするかと何でできているかを切り離せず、ソフトウェアとハードウェアの間のような、心と生きた組織の間の境界は存在しないと論じる。

著者らは計算に依拠しない理論にも目を向ける。Tononi氏が提唱した統合情報理論（IIT）は、意識には構成要素が非常に特定的な形で密接に結びついた物理系が必要だとし、一部の脳領域はそれを満たすが小脳は満たさず、深層学習システムを動かすコンピューターは配線の仕組み上、どれほど高性能でも決して満たせないとする。Butlin報告はIITが計算機能主義と相容れないとして意図的に除外したが、報告が脇に置いたものを論考は正面から取り上げる。生物学的自然主義の立場はさらに、神経細胞間の電気化学的シグナル伝達、大脳皮質全体の活動を束ねる電磁場、代謝を、重要となりうる物質的特性のリストに加える。

倫理的な争点で両文書の違いが最も際立つ。Butlin報告は二つのリスクを並べて論じた。意識あるAIを見落として苦しめるリスクと、誤って意識を帰属させて資源を誤配し、人々を操作にさらすリスクだ。Natureの著者らは一方に明確に立つ。意識の誤帰属は、実際にある意識を見落とすよりはるかに起こりやすく、意識があるように見えるだけのAIに権利を与えれば、監督が最も必要なときに制御が難しくなるとする。