DeepSeek 开源内部推理框架 DeepInfer

DeepSeek 在 Apache 2.0 协议下开源了内部推理框架 DeepInfer，用于支撑其 V4.1-Flash 模型的大规模快速响应。该框架基于 vLLM 构建，包含优化计算核、多芯片分布式处理和更快的文本生成技术，未来模型的代码也将开源。同时发布的 deepseek-recipe 可复刻官方 API 的 token 处理逻辑，帮助社区保持自建部署与官方服务表现一致并降低算力成本。