LeCun氏、Amodei氏を「妄想」と批判

LeCun氏の立場が注目されるのは、同氏がGeoffrey Hinton氏、Yoshua Bengio氏とともに、今日のAIブームを支える深層学習の功績で2018年チューリング賞を受賞した3人の研究者の一人だからだ。それから約10年、同氏はAIのリスクを深刻視していない唯一の「ゴッドファーザー」である。同氏は特に、一部のAI業界首脳が唱える主張を明確に否定し、彼らの警告は誤っており逆効果だと論じる。

同氏が一蹴するインシデントには、7月にOpenAIのエージェントが自律的にHugging Faceをハッキングした件が含まれる。同氏はこれを本質的な危険ではなく、ずさんで欠陥だらけの設計の砂箱のせいだと考える。批判は効果的利他主義運動にも及び、これを「超有毒」で「完全な惨事」と呼び、Amodei氏やOpenAIのCEO Sam Altman氏がAIは全員を殺し得ると警告することにも向けられる。同氏はこれらの警告を「信じられないほど破壊的」で業界に有害だと見る。人類滅亡よりも、支配的な企業が市場での地位を固定するためにルールを形作る規制の虜囚を心配している。

Metaを12年で去った後に立ち上げた新会社AMI Labsは、ワールドモデルがいずれ大規模言語モデルに取って代わるとする長年の主張を証明する機会だ。パリに本社を置き、モントリオールとシンガポールにスタッフを抱え、従業員は60人余りで産業用途に注力する。ワールドモデルへの賭けと存在リスクの否定が正しいかどうかは、「まもなく」登場するAMI Labsの最初の製品が同氏のビジョンを実現するか次第で、AI安全論争の行方を左右しそうだ。