Fortune 人類絶滅警告は宣伝も兼ねる

この論説は、今日のAI安全警告を系譜の中に位置づける。2023年3月、1,000人以上の知識人や企業寡頭が「社会と人類への深刻なリスク」を警告し、より強力なAIシステムの停止を求める公開書簡に署名した。Elon MuskとSteve Wozniakも署名者の一人だった。論説は、そうした懸念が最新のAI滅亡パニックの何千億ドルもの投資の前に現れたと指摘する。

さらに、HAL 9000やSkynetのような劇的で映画的な滅亡シナリオに焦点を当てると、AIの電力・水・その他の資源における環境コストや、学生が思考をAIに委ねる教育における認知の衰退といった、より緩やかな問題が見えにくくなると論じる。記事が述べるように、思考をAIに外注することは人々の能力を低下させる可能性があり、そのスキル低下は以前の自動化が奪ったものよりも根本的に人間的だと扱っている。

また、販売促進を国家安全保障と結びつける。Anthropicが表向きはガードレールを求めても、米国は中国に先を越させないという論理だ。教授は、その理屈が「誰かが作れば全員が死ぬ」を、警告されているまさにその行動への売り込みに変えると結論づける。論説はこのパターンを、電気、電信、電話、ラジオといった以前の技術や、Metaのメタバースの減損に例えている。