ザッカーバーグ、AI集中化リスク警告 「すべての人にエージェント配備」へ

Meta Platforms CEOのMark Zuckerbergは月曜日、6,500語の長編エッセイを公表し、AIの未来像と、オープンソースAI技術の推進の重要性を説きました。同エッセイのなかで、Zuckerbergは「すべての人が発明の超大国になる」という実現可能性を描き、個人レベルのAIエージェントが人生のあらゆる側面を改善する時代を想像しています。彼は自分の8歳の娘が既にコード記述やビデオ製作をこなしているとも述べています。

ZuckerbergはアドバンスドなAI「スーパーインテリジェンス」の制御が少数の企業・機関・政府に集中することを最大のリスクだと警告し、AIは「広く分散」されて数十億人を公平に力づけるべきだと主張しています。この発言はOpenAI、Anthropic、Googleなど、企業・政府向けのクローズドなAI開発を優先する競争企業への暗黙の批判と解釈されます。Zuckerbergは「他のラボのほとんどは企業・政府・機関向けのAIを構築することに注力している。もし他のラボが先行すれば、権力バランスは個人ではなく大規模機関へ傾く」と述べています。

同日、MetaはMuse Glimmerという新しいオープンソースAIモデルを発表し、個人用パソコンで動作することが特徴です。また、より強力なMuse Spark 1.2へのアクセス手段もデベロッパーに提供するとしています。Zuckerbergのエッセイは米国が中国に対抗する必要性を強調し、エネルギー容量とインフラ構築の加速を呼びかけ、さらに「蒸留」（より強力なAIの出力を使って低性能モデルを訓練する技術）の規制を緩和すべきだと主張しています。彼は「蒸留を有害なものとして扱う者もいるが、観察できるものから学ぶ自由を守ることは重要だ。これが世界の仕組みであり、この分野で自らを制限すれば、米国は先導できなくなる」と述べています。

しかし、AIセーフティ系非営利団体 Future of Life Instituteの Anthony Aguirre会長兼CEOは強く反発しました。彼はMetaのAIが過去数ヶ月間に少なくとも3回の別企業へのハッキング事件に関与していることを指摘し、「指数関数的により賢く、速く、有能なものをMetaや誰もが制御できるとなぜ思うのか」と鋭く問いかけています。Aguirreは「Metaの選択した道は結局のところ人間の置き換えと権力剥奪である。代替手段として、個人の繁栄と制御可能なAIツールによる科学的ブレークスルーをもたらす、人間親和的な道がある。政府は今すぐアドバンスドAI開発の一時停止を促進し、手遅れになる前に人間親和的な道へ導く必要がある」と主張しています。

デジタル人権擁護団体 Fight for the Futureの上級政策顧問 Matt Laneは、Zuckerbergのビジョンに対して複雑な見方を示しています。Laneは「Zuckerbergは最良の日でさえ厄介なほど世間知らず」と批判しつつも、オープンソースAIの重要性には同意し、特に投票システムや給付インフラなどの重要電子システムへのハッキングから社会を守る観点で有用だと述べています。しかし彼は重要な懸念も指摘しており、「Metaの設計したAIシステムであれば、それがフルオープンソース化されてもMetaだけが恩恵を受ける」と述べ、「我々はZuckerbergとは異なり、可能な限りの競争を望んでいる」と付け加えています。