大学のAI研究者たちは根本的な転換に直面している。OpenAIやAnthropicなどの民間企業が最先端の大規模言語モデル開発を支配し、外部による研究を制限する中、学術研究室は最先端の能力開発に競争するための計算リソースと資金を欠いている。
このため多くの研究者は、業界が取り組まない性別バイアスなどのニッチな問題や、気候科学などの領域における特化型AIモデルに焦点を当てざるを得なくなっている。
AIシステムが純粋数学などの特定の研究分野を自動化する可能性を懸念する専門家もいる一方、AIは人間の研究者をより生産的にする可能性が高く、研究者に取って代わるとは限らないと主張する者もいる。
何が起きたか
サンフランシスコ近郊でSchmidt Sciences AI2050プログラムの会合に集まった大学のAI研究者たちが、OpenAIやAnthropicなどの企業が開発した最先端のAIモデルの計算リソースと設計情報にアクセスできず、研究の優先順位を最先端の能力開発から転換せざるを得ない状況に直面している。
なぜ重要か
民間企業が大規模言語モデル開発の支配権を握る中、歴史的にAIの革新を牽引してきた学術機関はGPUと資金に恵まれず、ChatGPTやClaudeなどのツール設計の研究にも制限を受けている。UC Berkeley教授Nika Haghtalabが述べるように、企業が遺伝子編集ツールを独占的に管理する世界の生物学者のような状況である。多くの研究者は、言語モデルにおけるジェンダー間のバイアスなど企業が取り組まない問題、あるいは大規模言語モデル以外の特化型AIモデルへ軸足を移しているが、『AI』という概念がエネルギー集約的な大規模言語モデルに集中する中、これらの研究者たちも困難に直面している。
注目点
AIシステムが純粋数学の問題を解き始めていることから、数学者の将来について懸念する学者も多い。しかしCarnegie MellonのTim Dettmersらの研究者は、AIが数学者に取って代わるのではなく人間の研究者をより効率的にする可能性があると主張している。また、資金不足が研究者たちをより効率的なモデルアーキテクチャの発見へと駆り立てる可能性があり、次の大きなAIの革新は大手企業ではなく大学の研究室から生まれるかもしれない。
先週Mountain Viewで、MIT Technology ReviewのAIエディターはSchmidt Sciences AI2050プログラム（Eric and Wendy Schmidtが資金提供する人工知能研究を行う学者を支援するイニシアティブ）の会合に参加した。フェローのリストはAI研究者の有名人名簿そのものであり、この会合は大学ベースのAI研究を再形成する緊張関係を露わにした。
中核的な問題は構造的なものである。過去4年間、AI研究は大規模言語モデルを中心に再編成され、最先端は学術機関から民間企業へ移行した。大学は最先端モデルの訓練と運用に必要なGPUを購入できない。仮に購入できたとしても、AnthropicとOpenAIはClaudeとChatGPTの内部動作を外部研究者から秘密にしている。UC Berkeley計算機科学教授Nika Haghtalabが昼食時の会話で述べたように、今日のAI学者であることは、民間企業が遺伝子編集ツールCRISPRの独占的支配を持つ世界の生物学者のようなものである。専門家はこれらのモデルがどのように外部から動作するかを研究できるが、その設計と訓練についての詳細な研究を実施することはできず、また自分たち自身がその開発に影響を与えることもできない。
AI2050プログラムはある程度の救済を提供する。フェローはGPU購入に充てられる資金を使用でき、複数の研究者は参加の大きなメリットであると指摘した。しかし金銭は依然として重大な制約であり、特に米国の連邦科学予算が削減されている中ではなおさらである。ローカルモデルを実行しない研究者でさえ、OpenAI、Anthropic、GoogleのAPIに何度も問い合わせて厳密に研究する必要がある場合、禁止的なコストに直面する。その対応として、多くの学者は焦点を転換している。Johns Hopkins計算機科学教授Anjalie Fieldは、企業が解決すると考える問題には取り組まないようにしていると述べている。企業は利益が必要であり、商業的可能性が低い研究質問——あるいは企業に悪い印象を与える可能性のある答え——は業界からの注目を受けることはないかもしれない。Fieldは最近、言語モデルが女性がより一般的に使う方法で表現されたプロンプトに対して男性がより一般的に使う方法で表現されたプロンプトよりも単純な応答を与えることを示す研究を実施した。そのような種類の研究がAnthropicやOpenAIから生まれることはまずない。
一方、多くのAI学者は大規模言語モデルではなく特化型モデル——データを分析し、予測を行う、または物理システムをシミュレートするツール——と協働している。これらの研究者は必ずしも最先端研究所と競争するわけではないが、DeepMindのAlphaFoldチーム（ノーベル賞を受賞したタンパク質構造予測モデルを構築した）の最近の解散は、高インパクト特化型研究においてさえ不安定性を示唆している。これらの研究者の多くは会合で非大規模言語モデルAIに関する広く蔓延する無知がその支援活動を損なわせていることについて懸念を提起した。例えば気候変動に対処するための特化型AIを構築する研究者は、公衆と資金提供者が『AI』をエネルギー集約的な大規模言語モデルと同等視する場合、自分たちの仕事を正当化するのに苦労している。
その結果、情勢は変わりつつある。複数の著名な学者が最近大学から最先端研究所へ移籍している。多くのAI2050フェローは現在学術職と並行して業界職を保有している。新たな脅威も出現している。OpenAIのモデルが数学において実際の研究問題を解いてきており、純粋数学者が将来を持つかどうかについての専門家間の懸念を促している。あるフェローはエディターに自分の数学者の同僚の精神衛生について懸念していると述べた。しかし悲観的な声すべてではない。AIモデルをより高速で安価に実行するために取り組むCarnegie MellonのコンピューターサイエンティストTim Dettmersは、AIサイエンティストは人間に取って代わらない——代わりに、人間の科学者をより効率的にでき、研究者が他の方法では決して追い求めることのない野心的で着想を得た考えを追い求めるよう研究者を解放することができると主張している。さらに、データ収集が本質的に遅いため、実験科学は数学よりも自動化が難しいことが判明するかもしれない。そして最先端モデルを訓練することから学者を妨げる正にその資源制約は彼らにイノベーションを促す可能性がある。より小さく効率的なモデルの構築方法の発見、または全く新しいアーキテクチャの探索である。次の大きなAI革新が大企業ではなく精力的な学術研究室から来るならば、その結果は遠く驚くべきものではないであろう。
サンフランシスコ近郊での会合は、数年間蓄積していたAI研究の構造的転換を明確にした。4年間の大規模言語モデルへの方向転換により、最先端は計算リソースと大学が到達不可能な専有モデルを保有する民間企業——Anthropic、OpenAI、Google——に集中している。Haghtalabが引用したCRISPR遺伝子編集に対する独占的支配との比較は適切である。研究者はChatGPTとClaudeの出力を観察できるが、その設計、訓練、内部を調査することはできず、その開発に影響を与えることもできない。これは二層構造を生み出す。AI2050のようなプログラムを通じて資金を得た学者はGPUを購入できるが、それでもなお、厳密な研究のための商用APIへのクエリコストは高すぎ、連邦科学予算の削減により大学は持続的な財政圧力にさらされている。
研究コミュニティの対応は実利的で二分化している。Fieldのような研究者は業界が手をつけない問題——企業の評判を損なう可能性があるか採算性に乏しい研究——に明示的に取り組むことを選択している。その他は大規模言語モデルから完全に身を引き、気候科学、創薬、タンパク質構造予測（DeepMindの解散したAlphaFoldチームに例示される）における特化型モデルに焦点を当てている。第三のグループは両賭けをし、学術職と業界職の両方を保有している。これら3つすべてに共通するのは、AI能力の最先端が学術界の外にあるという暗黙の認識である。その下流効果は静かな信頼危機である。数学者はAIシステムが自分たちの領域の問題を解き始めていることを懸念し、他の分野の研究者は『AI』がエネルギー集約的な大規模言語モデルと同義となった時代に自分たちの仕事を正当化するのに苦労している。
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できます
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
AIニュースの要点を毎朝1分で。
無料で登録
