クリスティアーノ氏、絶滅警告を支持

この警告は外部の批評家からではなく、この分野の内部から発せられている。Paul Christiano氏は、後にAnthropicを創業するDario Amodei氏と共に、2016年のAI安全性に関する影響力のある論文を執筆した。Christiano氏は長年、AIは比較的緩やかに普及し、安全にできると信じる人物として知られてきた——今回の転換はその立場を覆すものだ。OpenAIの非営利安全チームに加わるという発表は、この転換に伴う具体的な一歩である。

同氏の警告は単独ではなかった。「AIのゴッドファーザー」と呼ばれる3人の一人Geoffrey Hinton氏はBBCに対し、人類絶滅のリスク10%は「不合理とは言えない推計」だと述べ、これはAnthropicのアラインメント研究者の一人がその前日に語った内容と呼応した。二つの発言を合わせて読むと、最も悲観的な見方がもはや周辺的なものにとどまらず、この分野の主要ラボと深い結びつきを持つ人々によって語られていることがうかがえる。

次に何が起きるかは、こうした警告がこうしたラボ内部で安全業務の優先順位の付け方を変えるにつながるかどうかにかかっていそうだ。Christiano氏のOpenAI非営利安全チームへの移籍は、その初期の兆候の一つである。10%という数字やAnthropicのアラインメント研究者の発言も、広く一般の人々や政策立案者がリスクをどう評価するかに影響を与えるかもしれない。