DeepSeekがAI推論システム「DeepInfer」を公開、DeepSeekの本番サービスで実際に使われているシステムのオープンソース版
中国企業のDeepSeekがAIを大規模サービス展開するための推論システム「DeepInfer」をオープンソース化しました。
— DeepSeek (@deepseek_ai) October 20, 2026🚀 Introducing DeepInfer, our in-house inference framework, now fully open source!
Powering DeepSeek-V4.1-Flash at scale with high throughput and low latency. We’re sharing our production stack to help the community lower compute costs, reduce energy use, and make AI more…
AIを大規模サービス展開するための推論システムは複数存在しており、vLLMやSGLangといったシステムが広く用いられています。DeepInferはvLLMをベースにSGLangとTensorRT LLMのアイデアも取り込んで開発されており、高性能かつ大規模なサービス展開を可能とします。
DeepInferはDeepSeekのAIサービスで実際に使用されていて、今回のオープンソース版はDeepInferのコア機能をまとめたものです。DeepSeek-V4.1-Flashの実行に対応しており、最適化された推論機能や高速化技術「DSpark」などを利用可能。ただし、KVキャッシュシステムは実装されていません。
DeepInferは以下のリンク先で公開されています。ライセンスは Apache License Version 2.0です。
GitHub - deepseek-ai/DeepInfer: DeepInfer: High-performance, large-scale inference framework for DeepSeek models · GitHub
https://github.com/deepseek-ai/DeepInfer
さらに「deepseek-recipe」もオープンソース化されました。deepseek-recipeは「APIリクエストをDeepSeek製モデル用に変換する」「DeepSeek製モデルの出力をAPIレスポンス用の形式に変換する」といった機能を持ったライブラリコレクションで、サードパーティーAPIの提供者がDeepSeek公式APIと同等の動作を再現できます。
— DeepSeek (@deepseek_ai) October 20, 2026🛠️ Also open-sourcing deepseek-recipe
Our production token encoding & decoding component, aligned with the processing logic behind the official DeepSeek API to bring the same API behavior to community deployments.
3/4
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.