ザッカーバーグのAI宣言、信頼喪失の歴史を繰り返す

月曜日、Mark Zuckerbergは6,500語の長編論説を公表しました。これはMeta AIが構築する「個人向け超知能」システムの可能性を中心に述べたものです。この論説の基本的な考え方は新しいものではなく、数ヶ月前にWall Street Journalに掲載された版が存在し、同氏はこれまでMeta決算説明会でも同様の考えを述べてきました。ただし、今回の公開版はこれまでで最も詳細な形となっています。

Zuckerbergの論説は、AIがもたらすであろう社会変化の素晴らしい未来像を描きながらも、同時にそれが悪くなる可能性についても繰り返し言及しています。記事執筆者は、この矛盾が一般市民がAIを「不気味で不快」と見なす理由を説明する上で、なぜZuckerbergの発言が業界にとって有害なのかを詳しく分析しています。

記事が指摘する第一の問題は、Facebookをめぐる信頼危機です。米国民の64%がソーシャルメディアは民主主義に有害だと考えており、同じ割合で規制強化を支持しています。加えて、先週の裁判所判決でFacebookは子どもへの害について5億6700万ドルの罰金を課されました。このような状況下で、Zuckerbergが新技術について乐観的な論説を発表することは、信頼を失った立場から新たな信頼を獲得しようとする取り組みに見えていません。

Zuckerbergの論説における具体例は、AI技術の現実の使われ方との乖離を浮き彫りにしています。教育の例では、同氏は「全員が博士号を持つ個別指導者と無限の忍耐を持つコーチを得られる」と述べていますが、現実にはChatGPTやClaudeといったAIチャットボットは主に学生が宿題や課題論文を作成する際に利用されており、AIで生成された課題なのかを判定する堅牢な方法が存在しないため、学習の回避に使われています。

法制度についても同様です。Zuckerbergは「全員が超知能を持つ弁護士を持つなら、訴訟がより公正かつ効率的になる」と論じていますが、記事執筆者は、これが官僚的な複雑さをさらに増す可能性や、悪質な訴訟提起者による濫訴が増える可能性を指摘しています。

最後に、記事はSam AltmanやDario Amodeiといった他のAI業界の指導者との対比を示しています。彼らは公開コミュニケーションにおいて、AIの危険性を認めながら、自らの予防措置と信頼性を強調する努力を行っています。記事執筆者は、こうした信頼構築の努力があってこそ、業界が不測の事態に対応できるとの見方を示しています。信頼がなければ、業界は課題が明らかになった際に存続が危ぶまれる可能性があると警告しています。