ザッカーバーグ、安全性理由にMuse延期

AIの安全性をめぐる議論は、著名なラボがAIの進歩を緩めるよう呼びかける中で激しさを増している。ダリオ・アモデイ氏の約4,000語の論考は、適切なガードレールを導入するために開発を減速させ、企業と政府の国際的な協力を伴うべきだと主張した。この呼びかけはOpenAIのサム・アルトマン氏やxAIのイーロン・マスク氏といった競合他社も支持したが、全員が同意しているわけではない。

MetaのCEOマーク・ザッカーバーグ氏は今週Xで、信頼とアラインメントがAIエージェントとモデルの重要な差別化要因になりつつあるとの見方を示した。同氏は、安全性とセキュリティに注力するためMetaがAIモデルMuseの出荷を数カ月延期したことを明かし、外部からの呼びかけへの対応ではなく通常の業務の一環として位置づけた。アモデイ氏の計画の一部を支持しつつ、ザッカーバーグ氏は政府の行動は不要であり、市場のインセンティブが企業に安全性を優先させるだろうと示唆しているようだった。

他の経営者も意見を述べた。Redditの共同創業者アレクシス・オハニアン氏はCNBCに対し、業界はAIリスクの説明において「鈍感」だったが、企業が自力で解決することを期待すると語った。Google DeepMindの共同創業者シェイン・レッグ氏は、能力は急速に進歩しているが「能力を安全性より先行させるわけにはいかない」と述べた。一方、The Informationの報道によると、OpenAI、Anthropic、その他の主要AI企業が協力してAI標準団体を設立しようとしており、民間の「自主規制機関」と表現されている。これは、トランプ政権と多くの議員がAIの規制に関心をほとんど示さず、「AIツァー」のデビッド・サックス氏が規制は企業に任せるべきだと述べる中で起きている。中国外務省やCohereのCEOエイダン・ゴメス氏を含む批判者は、アメリカの大手AIラボが小規模な競合他社を不利にするための規制の虜を求めていると非難している。ゴメス氏はこれを、誰がルールを書くかをめぐる「カルテル」の争いと呼んだ。結論は、業界の自発的な標準が信頼できるものと見なされるか自己奉仕的と見なされるか、そしてそれが競争にどう影響するかにかかっている。