画像・動画・文書を読む35Bモデル

MiniCPM-V 4.7は、MiniCPM-Vシリーズが初めてmixture-of-experts設計を採用したモデルで、1トークンあたりモデルの一部だけが動く。OpenBMBによると、画像理解の5テストでQwen3.6 35B-A3Bを平均で上回り、時間も短縮したという。ただし意図的に思考モードを使うモデルにはなお及ばない。注意点は、35Bのパラメータ全体をローカルに保持する必要があることだ。1語あたり約3Bしか稼働しなくても、4bit版は21.2GB、画像コンポーネントで1.12GB加算される。メモリが足りない方向けに1.8GBの1B版も用意されている。iPhoneでメモリ3GB・毎秒13トークンという同社の主張は、ストレージから重みを先読みする特別なllama.cppビルドによるもので、通常のOllamaでは同等にはならない。日本語対応と評価は記載がないため、組織は依存する前に自社文書で試すよう勧められる。