跳到正文
原文
Latent Space· Latent Space·· 13 天前AI 评分74

DeepSeek 开源生产级推理引擎 DeepInfer

[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback

AI 导读

DeepSeek 开源了其生产级推理引擎 DeepInfer 及配套的 deepseek-recipe 工具,支持 NVIDIA SM100 与华为昇腾 950 硬件平台。

来源:Latent Space · latent.space