Reka AI、単一モデルRho-1公開

Reka AIはマルチモーダルAIの分野で以前から取り組んできた。2024年4月には、ベンチマークでGPT-4、Claude 3、Gemini Ultraと競合するマルチモーダル言語モデル「Reka Core」を投入している。今回のRho-1の公開は、AI研究におけるいわゆるworld modelsへの広い流れに沿うものだ。

Rho-1は19-billion-parameterのomni-modelで、テキスト、画像、動画、ロボット制御アクションを単一のニューラルネットワークで処理・生成する。多くのAIシステムが専門モデルにタスクを振り分けるのに対し、Rho-1は全モダリティを共有コンテキストウィンドウ内のトークンとして扱い、ツール呼び出しや外部モデルを必要としない。動画をリアルタイムで生成し、再起動なしに新しい指示へその場で応答する点も特徴だ。

ロボット制御への応用では、同じ重みがカメラ画像の予測とロボットの動きの両方を担う。ロボット訓練データの不足を補うため、通常のインターネット動画から制御信号を抽出するinverse dynamics modelを構築した。訓練には320 H100 GPUsを約3ヶ月使用している。

この研究プレビューが実運用にどこまで耐えるかは、リアルタイム生成の品質やロボット制御の精度次第とみられる。単一モデルで複数モダリティを扱う設計は、システム構成の簡素化を狙う企業にとって関心の的になりそうだ。