Socher氏、AIによる人類滅亡は非現実的と主張

Socher氏の投稿は、AIの減速をどれだけ進めるかをめぐる、AI業界の重鎮たちの公開論争の真っただ中に飛び込んだ。水曜日の投稿前の3日間に、AnthropicのCEO、Dario Amodei氏は、リスクを完全に対処するには、リスク防止が追いつく時間を確保できるよう、能力向上のペースを調整する必要があると論じる3,800語のエッセイを発表し、Salesforceの年次イベントDreamforceでもその主張を繰り返した。OpenAIのCEO、Sam Altman氏はAmodei氏に賛同すると述べ、その後、AIの進歩が2つの形で非常に悪い方向に向かう可能性があると警告し、AIは常に人間に奉仕しなければならないとする暗いXへの投稿を自ら続けた。

Socher氏の貢献は、別の種類の異議である。同氏はAIが害を引き起こさないと主張しているわけではなく、多くのAI安全の専門家と存在リスクについて話し、本物の研究者たちは真剣に受け止めるべき現実的で起こり得る害を指摘していると語っている。同氏の標的は具体的に滅亡のケースだ。すべての人間を殺す詳細なシナリオを求めても、たいていは現在の進歩を見て想像力を働かせるよう促す言葉で始まり、それで終わり、その確率を裏付ける科学もシナリオ計画もないというのだ。

それにより、この不一致はAIが危険かどうかよりも、最も極端な危険の証拠として何が認められるかという問題になっている。このやり取りが最も重要になるのは、どのリスクに研究資金と規制上の注目を集めるかを決める人々にとってだろう。滅亡論が手振り程度の議論として退けられれば、負担は具体的で近い将来の害を証明する側に移る。議論がどう決着するかは、どちらの側の修辞的な強さではなく、安全研究者たちがSocher氏に実際の詳細な滅亡シナリオで答えるかどうかにかかっているかもしれない。