AlphaGo開発者Google退社

Graepelの議論は、Daniel Kahnemanから借りた二つの思考モードの区別に基づいている。速く直感的な「システム1」と、遅く熟慮的な「システム2」だ。彼によればAlphaGoは両方を備えていた。ニューラルネットワークが直感を提供し、探索機構がその直感を可能な未来に対して検証する。この組み合わせが、不具合に見えながらAlphaGoのLee Sedolに対する4-1の勝利を支えた37手目を生んだ。現在の大規模言語モデルは、彼の説明では直感の半分しか持っていない。

彼はさらに深い溝を指摘する。AlphaGoはゲーム木、つまり検討した変化を構造化して記録し、ネットワークの判断を注記したものを保持し、推論の進行に合わせて更新していた。対照的にチャットボットは、仮説・信頼度・未解決の問いを記録する台帳を持たない。Graepelは、このためにシステムが誤った際に何が悪かったのか特定するのが難しくなると論じ、医療・工学・研究で最も重要だと述べる。

彼が提案する代替は、認識論的状態を維持し、推論をその状態を変える一連の手として扱うシステムだ。演繹し、問題を分解し、次に何をすべきか決める。こうしたシステムが、状況が部分的にしか分からず結果も不確かな現実世界の厄介さに対応できるかどうかが、彼の議論が他者に委ねる未解決の問いである。