DeepSeekが推論基盤DeepInferをOSS公開

DeepInferには経緯がある。DeepSeekは2025年4月、内部インフラとの結合が同じ理由でエンジン全体を公開できなかったと説明し、当時このソフトウェアをクラスタ管理ツールを中心に構築したvLLMの初期フォークだと述べていた。より良いモデル開発に集中する小規模研究チームには、大規模なオープンソースプロジェクトの維持に割ける余力がなかったとも語った。新しいREADMEはvLLMを元の基盤として挙げており、DeepInferは現在、FlashMLA、DeepGEMM、DeepEPといったカーネルライブラリなど、DeepSeekがすでに公開済みのコンポーネントを使っている。

今回の公開はDeepSeekの最近のハードウェア関連の取り組みとも符合する。DeepInferのAscend対応は、DeepSeekがチップメーカーの協力を得てカーネルプログラミング言語TileLangをHuaweiのチップに持ち込んだ9月30日の公開に続くものだ。Bloombergは9月、同社が内モンゴルの新データセンターに少なくとも16万基のAscend 950DTアクセラレータを配備する計画だと報じている。

タイミングも注目に値する。このフレームワークの公開は、米国土安全保障省が連邦文民機関に対し、DeepSeek製品をシステムから除去するよう命じた翌日だった。対象には同社技術で構築されたサードパーティーサービスも含まれる。DeepSeekは今後のモデル向け推論コードも同じリポジトリに入れるとしている。