ヒントン、リーら、安全懸念下でオープンAI擁護

ラスベガスのカンファレンスは、業界全体の懸念に対してオープン性を擁護するために、AI統治における3つの影響力のある声をもたらした。ノーベル賞受賞者のGeoffrey Hintonは、その緊張を直接認めた：オープンウェイトモデル（公開に公開されているトレーニング可能なAIシステム）は現在、永続的な装置であり、現実的なリスクを伴う。「私はオープンに反対でした。なぜなら、これらの非常に高価に訓練された大きな基礎モデルを、はるかに少ないお金でサイバー攻撃のような悪いことをするために訓練することが非常に簡単だからです」と彼は説明した。しかし、Hintonは費用障壁が消滅したことを認識した。「私はその戦いが失われたと思います。私たちは現在、オープンウェイトモデルを持っているので、多くの人々がこれらの大きなモデルを取得するための障壁、これは基礎モデルを訓練するための費用の障壁でしたが、その障壁は消えました。遅すぎます。」Hintonは彼の懸念にもかかわらず、AIの継続的な進歩はおそらく社会全体に利益をもたらすだろうと主張し、生産性を高め、教育とヘルスケアを改善すると述べた。そして、より知能の高いAIシステムからの潜在的な害についての懸念は、誇大広告として却下されるべきではないと述べた。

Andrew Ngは異なるレンズを通してこの問題を枠付けした：競争とマーケットダイナミクス。彼はAI技術へのアクセスを制限する門番についての懸念を表明し、AppleとGoogleがモバイルオペレーティングシステムを支配する方法と比較した。「門番がいてほしくない。これは私たち全員がAIにアクセスしたい方法を制限します」とNgは述べ、彼の処方箋は明確でした。「私が1つの処方箋を与えるならば、それはオープン性を促進することでしょう。なぜなら、AIは素晴らしいテクノロジーであり、私はそれが誰の手にもあってほしいからです。」しかし、Ngによるオープンモデルの防御には地政学的な側面が伴った。彼は、中国のオープンウェイトモデルがアジア、アフリカ、発展途上国全域で広く採用される場合、民主主義、自由、人権についてのアイデアに何十億もの人々がどのように遭遇するかを形作る可能性があると警告した。「より安価なモデルを構築した者は利点を持つでしょう」と、そしてロビイングと恐怖を散布することのために米国のオープンソースAIが競争に苦しむ場合、彼が注意したように、費用効率上の利点は中国のシステムに流れるでしょう。

World Labs CEOのFei-Fei Liは、Hintonの注意とNgの二項フレーミングの両方を拒否した。「これを完全なオープン性から完全な閉鎖性まで二分法にするのは非常に危険です」と彼女は述べた。彼女は核物理学に平行な線を引き、科学論文は公開で公開され、ウランは厳しく規制され、ラボの業務がその間に位置しており、知識管理のさまざまなレイヤーが共存できることを示している。Liはまた、ヒトゲノムプロジェクトのような成功も強調し、医薬品企業が利益を得られ、科学者が研究を進め、社会が利益を得るプラットフォームを作成した公開民間機関間の協力の例を引用した。「私たちは、科学発見、教育、グローバルパートナーシップ、および起業家のための有利なビジネスモデルの両方でオープン性のいくつかのレベルが必要です」とLiは主張した。「しかし、私たちはクローズソースシステムも受け入れます。」

それぞれの戦術的な意見の相違にもかかわらず、3人のスピーカーは1つのポイントで一致した：規制が必要になるだろう。Hintonが最も明確で、「規制は私たちを助けるだろう」とAI開発を正しい軌道に保つと述べ、この決定はElon MuskやMark Zuckerbergのような技術指導者に任せることはできないと述べた。しかし、3人の誰も、その規制が何を伴うべきか、またはどのように強制されるべきかについては指定していない。これは彼らがそれぞれ特定した技術的および地政学的課題の複雑さを考えると、注目すべきギャップです。