AI、乳幼児学習テストで失敗—脳設計の手がかり示唆

EgoBabyVLMチャレンジは基本的な観察から生じている。1歳の子どもは、現代のAIが消費するデータとエネルギーのほんの一部で、物体を認識し、世界をナビゲートし、言語を吸収する。何千台のコンピュータチップで実行される最先端モデルは、プログラムを作成し高度な問題を解決できるが、数兆の言葉の学習データと小国並みの電力を必要とする。一方、乳幼児は物体を1～2回見ただけで識別し、はかない観察と物理的相互作用を通じて学習する。この相違から何を学べるかを探索するため、Meta、Stanford大学、東京大学、フランスのÉcole Normale Supérieureの研究者は、テキストと画像の両方から学習するビジョン言語モデルがどの程度乳幼児の学習能力に匹敵するかを直接測定する新しいテストを設計した。

EgoBabyVLMチャレンジは、乳幼児と幼児の頭部に装着されたカメラから収集された約1,000時間の映像を取り込んだ後、モデルが世界を理解できるかどうかを判定する。結果は驚くべきものだった。最先端モデルはこのリアルで混沌とした映像に直面して惨憺たる失敗を遂行した。この知見は人間とAIの学習の間の重要なアーキテクチャの違いを示唆している。乳幼児は厳選されたデータセットに依存するのではなく、Stanford の認知科学者Michael Frankが「物事の多様な見方」と呼ぶものから学習する。親が見えない物体について議論し、視線やジェスチャーで何かを示し、過去や未来の出来事について議論する。乳幼児は言語だけでなく、豊かなマルチモーダルで触覚的な経験を吸収する。「AIに関して言えば、言語以上のものが必要であることは明らかです」とFrankは説明した。

このチャレンジは、認知科学とAIを架橋するより広い研究運動の一部である。2023年、BabyLMチャレンジはAIモデルに対して、10歳児が遭遇する程度のデータ（標準モデルの数兆ではなく数千万語）を使用して言語学習を行うよう求めた。驚くべきことに、現代の大規模言語モデルの基礎となるアーキテクチャであるトランスフォーマーベースのAIは構文において相応の成績を収め、認知科学者Noam Chomskyの構文が脳に組み込まれているかどうかについてのアイデアに異議を唱える知見をもたらした。しかし、BabyLMを開発した言語学者Ryan Cotterell（ETH Zurich）は、物理世界の理解が異なる問題を提示することに気づいた。「人間の相互作用の大規模なコーパスは存在しない。人間の相互作用のインターネットは存在しない」。MIT の認知科学者Joshua Tenenbaum は、BabyLMがモデルは物理世界、社会動力学、心の理論に関する常識を獲得していないことを示したと指摘した。「トランスフォーマーはデータ内のパターンを見つけることに非常に優れている」とTenenbaum は述べた。「ただし、純粋なパターン学習システムは、乳幼児や子どもが受け取るデータから学習し、彼らが行うすべての事を習得することができないようだ。」

それでも進歩は生まれている。2024年、研究者は基本的なビジョン言語モデルが、単一の乳幼児の視点から記録された映像データだけを消費して、ボールが何かのような簡単な概念を学べることを実証した。さらに有望なことに、Frankと同僚は、因果関係と視覚-時間的関係（物体が時間とともにどのように相互に影響するか）の学習に長けた新しいモデルアーキテクチャをテストした。同じ乳幼児の頭部映像データを使用して、新しいモデルは物理推論の基礎である物体ダイナミクスについて、標準的なアプローチよりもはるかに効果的に学習した。「謎は、子どもが2歳の時点ですら持っている完全な能力にどのようにして到達するのかです」と、2024年のプロジェクトに関与したPrincetonの認知科学者Brendan Lake は述べた。EgoBabyVLMの著者らは、認知科学と神経科学からのアイデア（より長期間注意し社会的信号を解釈するように設計されたモデルなど）を借用することで、より人間的な学習アルゴリズムへの進歩が可能になると提案している。Lake はEgoBabyVLMを「素晴らしいチャレンジ」と呼び、研究者が開発する新しいアーキテクチャとアプローチについて楽観的な見方を示した。その含意は魅力的である。物理と社会関係について急速に学習するようにバイアスされたモデルは、全体的に効率的な学習者として現れる可能性があり、現在のAI開発を定義する計算コストとエネルギー需要の両方を削減することができる。

EgoBabyVLMチャレンジは3つの長年の研究課題の交差点に位置している：乳幼児がいかに効率的に学習するのか、現在のAIモデルがその規模にもかかわらずなぜもろいのか、そして人間の脳のアーキテクチャが硅基システムがまだ捉えていない学習原理をエンコードしているのかである。この論文は、BabyLMのような以前の研究に基づいている。2023年のBabyLMチャレンジはAIモデルに対して10歳の子どもが消費する程度のデータ（数兆ではなく数千万語）を用いて言語学習を行うよう求め、トランスフォーマーモデルが構文において相応の成績を収められることを発見した。しかし、言語学者Ryan Cotterell（ETH Zurich）が指摘した通り、物理世界はより異なる問題を提示する。訓練に用いる「人間的相互作用のインターネット」が存在しないため、研究者はテキストを超えた思考を余儀なくされている。言語と具体化された理解の間のこのギャップこそが、EgoBabyVLMテストが貢献する場所である。乳幼児の実際の一人称視点の映像を使用することで、人間が実際に知識を獲得する方法を反映した、より現実的な学習のベンチマークが創造される。

テストの知見は、疎で非構造化データに直面した際に最先端モデルが失敗することを示しており、これはいかに洗練されていようとも純粋なパターンマッチングだけでは乳幼児が直感的に行う推論に不十分であることを示唆している。MIT のJoshua Tenenbaum のような認知科学者は、進化が脳に特定の学習アルゴリズムを最適化したのか、あるいはより単純なメカニズムが人間の学習を複製できるのかという問題に焦点を当てている。Frank の2024年の研究は、因果関係と時間的関係を学習するように設計されたモデルがはるかに優れたパフォーマンスを示すことで具体的な手がかりを提供している。認知科学からのアーキテクチャアイデア（より長い時間スケールで動作し社会的信号を解釈する注意メカニズムなど）を借用することで、より効率的な学習が実現される可能性がある。この含意は双方向性を持つ。AI能力を前進させる（モデルをリソース消費効率が高く堅牢にする）と同時に、人間の脳の設計原理を照らし出す。乳幼児のようなAIの進歩は、人間が実際にどのように学習するかについての仮説に等しいからである。