Michael I. Jordan氏がAI終末論を批判

Jordanの批判は種類としては新しいものではない。2019年にもAIという言葉の無謀な乱用について警告していたが、今はエスカレートした語彙を予測可能な進行として位置づけている。「AIでは足りなかったのでAGIを語り始め、今は『超知能』だ」と彼は言う。この捉え方は終末論を技術的知見ではなくブランドの立て直し作業として位置づけるもので、だからこそ彼はこの夏の議論を「まったく腹立たしい」と評するのだ。

Anthropicの辞職は、Jordanにとって証拠ではなくインセンティブの事例研究として重要だ。辞めた研究者たちは「すでにストックオプションを持っている」と指摘し、辞職そのものが注目を保証する仕組みだと論じる。彼の説明では、それは工学的判断よりも可視性を報いるものだ。

研究の安全性についても同じ線を引く。OpenAIのエージェントによるHugging Faceへのハックを悪い工学と呼び、化学工学で爆発を起こして何がまずくなるか見るだけのために許すようなものだと比較し、終末論者たちはそれを怖い話に仕立てるのを喜んだと言う。兆ドル規模のデータセンター建設にも同様に懐疑的で、「巨大な賭けだが、実を結ぶかどうかまったく分からない」と呼び、企業に統合されたオープンウェイトモデルが巨大なデータセンターなしで専門的なニーズに応えられる可能性を示唆する。Jordanはまた、Yoshua Bengioを他の著名な警告者とは異なると名指しし、Bengioは安全に直接焦点を当てた行動を取り、エージェントの群れが制御不能に陥るような欠陥を指摘していると述べる。