AlphaGoの37手は探索とGraepel氏

2016年のAlphaGo対Lee Sedol戦の一般的な語り口では、第37手は純粋な機械の直感の瞬間——あまりに奇妙で、一部の解説者が当初バグを疑ったほどのひらめき——に還元されがちだ。プログラムの開発に携わったGraepel氏は異なる線を引く。AlphaGoは人間らしい手を推測するよう訓練された方策ネットワークと、数千の分岐を持つゲーム木を構築する探索機構を組み合わせ、提案された手がどう展開するかを比較できるようにしていた。この組み合わせは、Daniel Kahneman氏が広めた、速く直感的な「システム1」の思考と、遅く熟慮的な「システム2」の思考の区別に対応する——探索が熟慮の役割を担っていたのだ。

Graepel氏が対置するのは、代替案を探索せず次のトークンを予測し続ける今日のLLMだ。この違いは賭け金が高い場面で最も重要になる。医療や科学では、システムが答えにたどり着くだけでは不十分で、どうそこに至ったかを確認できなければならないと同氏は主張する。この種の検証可能な推論を大規模に構築できるかどうかが、これらの領域にAIを応用する上での中心的な問いになるだろう。Graepel氏は最近の進歩によってそれがより実現可能になりつつあるかもしれないと示唆している。