【经管大课堂·AI经管实践】DeepSeek开源DeepInfer:每卡每小时38美元背后的推理成本经济学

案例背景

2026年10月20日,DeepSeek宣布全面开源其内部大规模云服务推理框架DeepInfer,并同步开源生产级Token编解码组件deepseek-recipe。前者集成高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay与结构化输出,可运行在英伟达SM100与华为昇腾950两类平台上;后者把Chat Completions、Responses、Messages三套主流API协议统一转换为内部对话格式,处理逻辑与官方API完整对齐。官方披露,基于该框架的DeepSeek-V4.1-Flash单集群日吞吐达155万亿Token,线上平均首字时延约400毫秒、吐字速度约230 Token/秒,按谷价计算整体收入达到每卡每小时38美元。

但这次开源并不完整。KVCache管理与负载均衡组件因与内部基础设施耦合较深,代码尚未开放。而恰恰是”缓存”而非”算得更快”的部分,才是DeepSeek账本里最关键的一栏:官方线上系统平均输入缓存命中率达96%,谷时输入价0.15美元/百万Token、输出价0.60美元、缓存命中价仅0.003美元——命中价是输入价的五十分之一、输出价的两百分之一。开源算力调度、保留省算力组件,这一取舍本身就是一个值得拆解的战略命题。

核心分析

一、开源不是让渡利润,而是争夺互补品与标准主权

用双边市场与平台领导力理论看,DeepSeek开放推理框架并非”慈善”。Rochet与Tirole的双边市场理论指出,平台的核心决策是对哪一侧补贴、从哪一侧获利;Gawer与Cusumano的”平台领导力”则强调,企业可通过开放核心接口、扶持互补品供应商,把自有技术变成行业事实标准。DeepSeek把推理框架连同协议转换层一并开源,等于把”部署环节”这个互补品市场做大:云厂商、政企、运营商每多一次私有化部署,DeepSeek模型的应用面就扩张一分,而模型权重仍握在自己手中。更微妙的是昇腾950被列为一级支持平台——国产NPU首次进入其官方框架,等于用开源代码换取国产算力生态中的入口位置。此处开源是市场扩张工具,而非收入来源。

二、推理成本经济学:把”算得省”置于”算得快”之上

AI推理服务的单位成本可粗略分解为算力折旧、电力、显存占用与重复计算四部分,DeepInfer的优化几乎全部指向”减少重复计算”:Prefill与Decode分离部署,8卡机器承担Prefill、64—128卡超节点承担Decode,两者独立扩缩容;KVCache被做成集群级共享数据层,约100 PiB SSD承载,agent流量留存3天、chatbot流量留存7天,命中率96%;SWA Bounded Replay让重算代价与上下文长度、层数脱钩,Decoder部分Prefill计算量近乎减半;DSpark变长验证使每步验证的候选Token数从固定5个降至3.2—4.4个,吞吐提升4%—7%。其经济学本质是边际成本递减:一次缓存命中的边际成本趋近存储读取成本,远低于重新前向计算。当命中率达到96%,规模越大单位Token成本越低,规模经济与学习效应同时成立。这也解释了38美元的含义——它并非售价,而是”单位算力要素的产出效率”,正在成为AI服务行业衡量要素生产率的新口径。

三、开源边界即实物期权:保留”怎么算得省”

DeepSeek开放”怎么算得快”、保留”怎么算得省”,可用实物期权理论解释。Myers与Trigeorgis指出,在高度不确定的技术环境中,把不可逆投入拆成一系列可延迟、可分阶段的期权,比一次性决策更有价值。KVCache系统与三个负载均衡器是DeepSeek成本优势的核心,一旦完整开放,竞争对手可低成本复制其成本曲线,其API价格竞争力将迅速被抹平。保留这些组件,等于持有一份”可择机开放、也可长期不开放”的看涨期权:若生态竞争加剧、需要更大部署份额,则行权;若格局稳定,则继续独占成本优势。对学习者而言,这是一条通用命题——开源边界应由”哪些能力构成持久差异化”决定,而不是由技术壁垒高低决定。

管理启示

第一,评估一项开源决策,应从”收入损失”转向”标准份额+互补品规模”的复合指标,把生态采纳量纳入KPI而非只看短期毛利。第二,AI服务的成本竞争已从模型参数规模转向工程细节,缓存命中率、Prefill/Decode配比、负载均衡比值等运营指标正成为财务指标的前置变量,管理者需建立”技术指标—单位成本—毛利”的贯通口径。第三,企业应对自身能力做期权式盘点:把可商品化的部分主动开放以做大规模,把构成成本曲线的部分设为保留项,并对保留项设定明确的行权条件与复核周期。第四,警惕benchmark与线上的系统性落差——官方披露线上仅能达到理想离线基准的80%,任何算力投资测算都不应直接套用实验室数据。

其他思考

  1. 当开源模型的推理成本曲线被公开披露,模型厂商的定价权会从”模型能力”转向”工程效率”吗?中小厂商应当自建推理能力,还是全面依赖开源框架?
  2. 若KVCache与负载均衡组件未来补齐开源,DeepSeek在成本优势与生态份额之间将如何取舍?企业应如何设计开源边界的评估框架?
  3. “每卡每小时38美元”是按谷价计算的理论收入,未扣除电力、折旧与人力成本。若要将其作为行业要素生产率基准,还应补充哪些口径才能形成可比的会计指标?

关键词:开源战略、推理成本经济学、实物期权
来源:第一财经/经济观察网 | 整理:经管大课堂

锐思,察微。
上一篇

每日经管速递 | 2026年10月21日——20条经济管理资讯精选

下一篇

【经管大课堂·AI经管实践】元宝搜索开放与豆包4.19亿月活:大模型C端流量竞争与运营指标体系

你也可能喜欢

发表评论

您的电子邮件地址不会被公开。 必填项已用 * 标注

提示:点击验证后方可评论!

插入图片
关注 关注
锐察微博
返回顶部

微信扫一扫

微信扫一扫