ELYZA、国産LLM-jp-4ベースのモデルを無償公開

ELYZAは、国立情報学研究所（NII）が開発したオープンモデルであるLLM-jp-4シリーズを基に、日本語処理を中心とした中間学習と事後学習を追加してこれらのモデルを構築した。この手法は、ゼロから学習するのではなく、既存のオープンなベースモデルを企業が特化させることを可能にする点で重要だ。

両モデルがNII自身の改良版であるLLM-jp-4.1を一部のベンチマークで上回るという主張が注目されるのは、LLM-jp-4.1がわずか数日前の9月28日に発表されたばかりだからだ。研究所のベースモデルと企業の事後学習版の差は小さくなり得ることを示唆するが、対象のベンチマークはここでは明示されていない。

今回の公開は、再帰的自己改善を追求するELYZAの新組織ELYZA RSI Researchとも結び付いている。ELYZAはこの取り組みを依然として要素研究の段階と説明しており、RSIという枠組みは実現済みの能力ではなく長期的な方向性として受け止めるべきだ。実用的な試金石は、引用されたベンチマークだけでなく、実際の日本語タスクで両モデルがどう性能を発揮するかにある。