AI普及でデコヒーレンス崩壊へ

エッセイはデコヒーレンスをよくある技術的負債の一種として位置づけるが、最悪の形態だと主張する。建物の配管の例を用い、部分ごとに交換するとどちらのシステム単独よりも複雑な寄せ集めになることを示す。別館への給水や圧力増加などの変更が必要になると、混在したシステムははるかに多くの分析を要する。経営陣の速度圧力でエンジニアが手順を省略し、システムがより脆く複雑になり、次の変更がさらに難しくなる。これが指数関数的成長のサイクルを生む。

次にエッセイはAIエージェントがこの罠を回避できるかを論じる。コードは増えても完成する作業は増えず、余分なコードがレビューに溜まるとする研究を引用する。デコヒーレンスは時間ではなく変化とともに増大し、AIによる変更がそれを加速し得ると主張する。最後に、AIが再帰的に自己改善するという考えに反論し、デコヒーレンスが閉じた環境での改善を妨げ、外でも改善を制限すると論じる。エッセイはその代替を「デコヒーレンス崩壊」と呼び、知能爆発とは異なる種類の災害だと位置づける。