DeepSeekが推論エンジンDeepInferを公開

DeepInferはvLLMから派生したもので、DeepSeekがカスタマイズしてApache 2.0で公開し、SGLangやTRRTLLMの成果の上にコンポーネントを追加した。オープンソースの系譜は明示されている。vLLMは公開とクレジットについてDeepSeekに謝意を示し、Woosuk KwonはDeepSeekを初期からの採用者かつ貢献者と評した。したがってDeepInferは、既存エコシステムを丸ごと置き換える別物というより、本番運用の知見が既存エコシステムに還元されたものと捉えるのが適切だ。

この系譜が重要なのは、vLLMが最も具体的な比較結果を示したからだ。DeepInferが当初は主にvLLM上に構築されたと認めたうえで、vLLMチームは同一構成のGB200において、DeepInferの公表結果と6%以内のデコードスループットを記録したと報告し、AgentXの結果と再現手順を公開した。これはDeepSeekの効率性が既存のオープンソースエンジンでは実現不可能だという主張に実質的な留保を付けるものだ。

この公開は第二の議論も呼んだ。開示内容が推論の高い収益性を一般に示すのかという議論である。広く共有された推計は当初、推論の利益率を87.76〜96.94%としたが、著者は後に84.2〜96.1%に修正し、理想化したシナリオではDeepSeekの公表値38ドル/hourに対し約49ドル/hourになると指摘した。他の投稿はより高いハードウェア費用を用い、5ドル〜10ドル/hourで約73.7〜86.8%としている。これらの計算はSSDキャッシュ群、CPU、ネットワーク、遊休容量、障害、エンジニアリングやサポートの費用を除外するか不完全にしか配分しておらず、キャッシュ偏重の極めて有利なトークン構成に依存している。そのため推論の高い限界利益率は、企業全体の大きな損失と両立し得る。