日本語版nanochat、学習から評価まで一括提供

nanochat-jpは、Andrej Karpathy氏が2025年10月に事前学習・会話ファインチューニング・推論を単一のコードベースでカバーするものとして公開したnanochatを土台にする。tohoku-nlpのGitHub組織で公開されたフォークはその構造を保ちつつ、言語固有の部分を日本語向けに置き換えた。SentencePiece Unigramトークナイザ、日本語事前学習コーパス、日本語SFT・RLデータ、日本語能力を測るCORE/ChatCOREベンチマークを備え、Hugging Face Transformers形式への変換器も追加している。

リポジトリは同梱のspeedrun.shスクリプトを中心に学習を組み立てており、トークナイザの学習と評価、事前学習、SFT、レポート生成を順に実行する。強化学習も用意されているが標準スクリプトでは任意の工程とされ、事前学習モデルの評価（base_eval.sh）とチャットモデルの評価（chat_eval.sh）は別スクリプトで行う。

コードに加え、開発者はnanochat-jp-v4とv3のチェックポイント、Hugging Face Transformers形式のSFTモデル、学習済みモデル提供用のvLLMプラグインを公開した。ベンチマーク結果では、標準設定のモデルが日本語性能でQwen3.5-0.8Bに匹敵し、v4は5指標中4つでv3を上回ったとしている。Qwen3.5の比較モデルはthinkingを無効にして評価した。日本語AIの仕組みの研究や自作モデルの性能確認に向くプロジェクトだが、標準の学習には高性能GPU環境が必要だ。