Latent Space· Latent Space·· 7 天前AI 评分71
DeepSeek 开源推理系统 DeepInfer：单集群日处理 155T token
[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
AI 导读
DeepSeek 在 PyTorch Conf 首日开源 SOTA 推理系统 DeepInfer，Latent Space 援引数据称其单集群每天处理 155T token、日收入约 2200 万美元、毛利率约 80%、81 天回本，是对 Fireworks、Baseten 等闭源推理公司的开源回应。
来源：Latent Space · latent.space