ヒントン、リーら、安全懸念下でオープンAI擁護

Ai4でのこの議論は、AI統治の根本的な緊張を反映している：イノベーションと安全のバランスを取ることと、少数の企業に統制を譲らないことである。Ngの門番についての懸念は、AppleとGoogleのオペレーティングシステム支配が、どのアプリがユーザーに到達するか、またエコシステムがどのように進化するかを形作ったモバイルコンピューティングについての実際の不安を反映している。その論理に従えば、少数のAIラボがアクセスを独占することを許可することは、コンピューティングパワーだけでなく、イデオロギー的影響力も集中させることになるだろう。Ngがそれを米国と中国モデル間の地政学的競争として枠付けするとき、この懸念はさらに鋭くなる。しかし、Hintonの「戦いは失われた」というオープンウェイトについての率直な認めは、異なる現実を反映している：基礎モデルを訓練するための費用障壁はすでに侵食されており、オープンウェイトモデルを抑制することはもはや実行可能ではない。Liの中道的アプローチ（異なるレイヤーが異なるコントロールを必要とすることを認める）は、より難しい質問（強制の問題）を回避している：基礎となる物理学が公開されている場合、ウランが規制されたままで科学論文が自由に流れる状態をどのように保つか。しかし、3人のスピーカーが1つのポイントで意見が一致していることは注目に値する：3人全員が何らかの形の規制が必要と考えているが、それが何を見据えるべきか、または誰がそれを実施すべきかについては、指摘しなかった。