何が起きたか
ロシア人数学者らが創業したMostikが、AIモデル同士がテキスト出力を介さず、内部の数学的値を通じて直接やり取りできる技術を開発。中国製のオープンウェイトモデル2種を組み合わせたハイブリッドシステムは、両者の中間の性能を、大きいモデルの20分の1のコストで実現した。
なぜ重要か
この手法により、小型のオープンウェイトモデルが大幅に高性能化し、大手研究所のクローズドモデルに対抗できる可能性がある。また、専門家によると、より特化したモデルの学習につながる可能性もあるという。国内の企業が外部の高性能AIに依存せず、自社用途向けに低コストでモデルを強化できる可能性がある。
注目点
このスタートアップのモデルは、難関AIコンペ「ARC-AGI 3」で首位に立ったが、優勝を目指すため詳細は明かさなかった。開発着手からわずか数ヶ月でこの成果を達成しており、テックリードの1人は「この進歩は数年後になると思っていた」と語る。
チームにはフィールズ賞受賞者のスタニスラフ・スミルノフが参加し、CEOのサーシャ・マリシェバが中核となるアプローチを開発した。詳細を明かさずにARC-AGI 3で成功を収めたことは、この技術の可能性を示唆している。豚の体重当てになぞらえた比較は、多様な予測を組み合わせることが単一の専門家の予測を上回ることが多いという原理を強調しており、これが同社の手法の基盤となっている。
この技術がスケーラブルであることが証明されれば、小型のオープンウェイトモデルの競争力を高め、AIの状況を一変させる可能性がある。フロンティアモデルとドメイン特化型モデルを組み合わせる能力は、より特化したAI開発を促すかもしれない。しかし、スミルノフが指摘するように、モデル間で共通の数学的言語を見つけることは依然として困難であり、広範な採用への道筋はまだ模索中である。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
