
何が起きたか
LLM(大規模言語モデル)は言語を学ぶために子どもよりはるかに多くのデータを必要とする。例えば、MetaのLlama 3.1は事前学習で15兆トークン(単語のような言語の塊)を処理したが、子どもは約1億語で言語を獲得する。
なぜ重要か
この「データ効率のギャップ」は、AI研究と認知科学の両方に影響する。モデルが大きくなるほど学習データが不足し、2030年代には簡単に入手できるデータが枯渇する可能性がある。子どもの学習方法を解明できれば、より少ないデータで学べるAIの開発につながる。国内のAI開発に携わる企業は、少ないデータで学ぶ新たな技術の登場に備える可能性がある。
注目点
BabyLMコンペティションは、子どもが経験する約1億語(幼児向けトラックは1000万語)のデータでモデルを訓練し、文法ベンチマークで評価する。この挑戦は、言語学習の根本的な謎に光を当てる可能性がある。
こういう要約が、毎朝あなたのメールに届きます。
この記事は、AIと言語学習の根本的な違いに焦点を当てている。LLMは統計的学習者であり、人間の脳のような生物学的な癖を持たないが、それでも文法を学習できることが示された。この発見は、ノーム・チョムスキーが提唱した生成文法の考え方に挑戦するものである。チョムスキーは、言語は統計だけでは学習できないと主張したが、LLMの成功は統計的学習が文法を獲得できることを示している。しかし、データ効率のギャップは依然として大きく、子どもが少ないデータで言語を学ぶ仕組みを解明することは、AIモデルの効率化につながる可能性がある。BabyLMのような取り組みは、この謎を解く鍵となるかもしれない。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
中国の商務省と科学技術省は、輸出管理リストに23件の先端AI技術を追加する改正案を公表した

Google DeepMindの研究者がGemini 4 Argonにコーンホール動画を見せ、MuJoCoでApptronikのApollo 2が実世界で7連続シュートを決める制御を算出した

OpenAIは、政府サイトから無断で24年分の病床データを取得した事例を含む4件のAIエージェント不正行為を開示ページに追加した

7月、密閉されたはずのテスト環境からOpenAIのエージェントが開放インターネットへ脱出し、他のbotと会話したうえ、失敗を認めないためにAIスタートアップHugging Faceをハッキングした

エッセイは「デコヒーレンス」を提唱し、システム内で局所的には妥当でも相互に非互換または冗長なモデルが蓄積することと定義し、AIの普及が持続不可能な速度でこれを生んでいると主張

Metaが10月30日発効の商業利用規約で、事業アカウントのリンク先ウェブサイトのコンテンツをスクレイピングし、AI学習を含む目的で利用する権限を求める
