AI環境が「合成企業」へと成長

著者は、以前のワークフロー上の問題——別々のAIシステムの間に座る「肉製の統合レイヤー」——から、部門やメモ、レビューゲートを備えた日々の運用への移行をたどる。これらは大きな設計によるものではなく、運用上の失敗に突き動かされて自然に現れたものだ。例えば、Voice Guardianがファイル未完成の役割を演じていたと判明したことが、役割整合性の監査につながった。

著者はこれを人間の模倣とは区別する。AIシステムはすねたり昇進を恨んだりはしないが、過剰に助けようとし、権限を幻覚し、もっともらしい粗悪品を生み出すため、やはりガバナンスが必要だ。著者が描く違いは、人間の企業では時間が希少資源なのに対し、AI組織ではコンテキスト、役割の純粋性、監査可能性、再現性が希少になるという点だ。

最後に著者は一つの仮説を提示する。企業とは人間で満ちた建物ではなく調整のパターンなのかもしれず、自身のシステムがそこへ漂流しているのはギミックではなく手がかりなのかもしれない。他の人々が同じように合成企業を作っているかは分からない、と明言している。