Moonshine、日本語でWhisperより高速

日本語音声認識を自分でベンチマークしたい開発者向けの実装体験記だ。セットアップ手順として、moonshine-voiceとfaster-whisperをインストールしたPython仮想環境、ffmpegで作成した16 kHzモノラル16ビットWAV入力を示し、moonshine-voice 0.1.5とfaster-whisper 1.2.1で動作する。Moonshineには100ミリ秒単位の音声チャンクをリアルタイム速度で与え、各行の完了時刻を記録できるようにし、faster-whisperには初回ロードの遅さを避けるためウォームアップ後にクリップ全体を一度に渡す。応答速度の定義は両者で異なり、Moonshineは最後の行が確定した時刻とその行の音声が終わった時刻の差、Whisperはクリップの総処理時間とする。

精度指標は文字誤り率（CER）で、句読点と空白を除去し全角・半角を正規化したうえで、参照文に対する編集距離を参照文字数で割って算出する。著者は注意点も挙げる。「三百二十八万五千円」を「328万5000円」と書くと意味は同じでもCERが上がるため、測定前に数字表記を揃えるべきだ。コードでは日本語向けにmax_tokens_per_secondをデフォルトの6.5から13に設定している。これはトークン毎秒数が多い言語に開発者ドキュメントが推奨する値だ。著者の計測では6.5と13でCERは小数点以下3桁まで同一で、そのサンプルでは差が出なかったが、ドキュメントに従うよう勧めている。

実用上の問題も2つ記録されている。1つのPythonプロセスで20クリップを処理するとMoonshineの結果が3件で空になったが、同じ音声を単独で実行すると正しく動作した。原因は特定できず、クリップごとのプロセス実行で回避した。またMoonshineは息継ぎや間で行を分割するため、話し言葉の日本語は多くの短い行になり、文に戻す後処理が必要となる。著者は非英語モデルの読み込み時に非商用ライセンスの通知が表示される一方、公式リポジトリのLICENSEは日本語を含む現行ストリーミングモデルをMITと記載している点も指摘し、商用利用前に公式に確認するよう勧めている。