低成本、开源与推理模型:DeepSeek 如何改写 AI 竞争的规则
从一家量化基金走出的实验室,用几百万美元级别的训练预算,把前沿模型的成本打到了行业想象不到的低位。本文梳理 DeepSeek 的来路、技术选择与它给整个行业留下的启示。
一、从量化基金走出的 AI 实验室
DeepSeek(深度求索)由幻方量化创始人梁文峰于 2023 年创立。它没有大厂背景、没有风投光环,背后是一家靠量化交易挣到现金流的公司——这意味着两件事:一是训练算力有内部供给(幻方在 2023 年前后大规模购入 H800),二是试错空间大,不必向投资人按季度交代。
这种"非典型"出身,后来被证明恰恰是 DeepSeek 敢走"低成本"路线的底气:它不需要靠讲算力堆料的故事融资,可以直接按"把钱花在刀刃上"的原则做技术。
二、V2 / V3:把训练成本打到地板
DeepSeek-V2(2024 年 5 月)是路线的分水岭:采用 MoE(混合专家)架构,并首次大规模使用 MLA(Multi-head Latent Attention) 压缩 KV cache,把推理侧的显存与带宽开销大幅压低——在长上下文场景下,推理成本比同级别模型低一个数量级。
DeepSeek-V3(2024 年 12 月)则把"低成本"讲成了行业事件。据官方技术报告,V3 训练使用了约 278.8 万 H800 GPU 小时,折合现金成本约 560 万美元——大约是同期 Llama-3.1-405B 训练成本的 1/40。它的配置是 671B 总参数、37B 激活参数的 MoE,支持 128K 上下文,权重开放。
对行业来说,这两个数字的信号意义远超模型本身:前沿能力的价格曲线被重新定价了。
三、R1 时刻:o1 的挑战者
2025 年 1 月 20 日,DeepSeek 开源了 R1。它的技术报告核心主张是:推理能力不必靠海量标注数据监督(SFT)堆出来,而是可以用强化学习直接"激励"出来——让模型在长思维链中自我检查、自我纠错,再配合 GRPO(Group Relative Policy Optimization)等策略优化算法,数学、代码、逻辑推理等任务上追平了 OpenAI 的 o1。
资本市场立刻给出了反应:一周之内,美股芯片与 AI 板块大幅下挫,"DeepSeek 时刻"成为 2025 年初最热的词。它的真正冲击在于打破了"只有烧钱最多的玩家才配谈前沿"的叙事,把全球玩家的预期成本线整体拉低。
四、值得记住的技术选择
- MLA 注意力压缩:KV cache 低秩化,长上下文推理成本显著下降,是"成本优先"哲学的代表性设计;
- 无辅助损失的负载均衡(DeepSeekMoE):在 MoE 训练中避免专家路由塌缩,工程上更稳定;
- 多 Token 预测(MTP):解码时一次预测多个 token,提高吞吐;
- RL 优先的推理训练(R1):把"推理"从标注密集型工作变成可优化目标,小模型通过蒸馏即可获得接近前沿的推理表现;
- 后续迭代(2025 年年中):V3.1 引入混合思考(hybrid thinking)与增量更新(Updater)架构,Engram 条件记忆模块把低频知识参数移出主干——继续沿袭"架构换算力"的思路。
五、争议与边界
"低成本"与"开源"都需要放在放大镜下看:
- 成本口径:560 万美元是官方报告的训练成本,未含迭代、失败与运维摊销,实际投入必然更高——但"显著低于大厂"的方向性结论仍然成立;
- 开源边界:权重采用 MIT 许可证开放,但训练数据与完整工程并未完全公开,API 条款对商用有限制,"开源"是"开放权重"意义上的;
- 推理可靠性:R1 类模型在长思维链上存在方差,非推理任务(如事实性问答)的稳定性仍在打磨;
- 地缘因素:在算力出口管制背景下,DeepSeek 用国产/受限算力做到这一水平,既是技术故事,也是行业叙事的一部分。
六、启示
DeepSeek 留下的不只是几个模型,而是三条被验证的路径:
- 架构与算法效率 = 算力杠杆:前沿能力不只有"堆更多卡"一条路,MLA、MoE、RL 这些设计选择本身就在创造成本优势;
- 开放权重降低全行业门槛:全球大量下游微调、行业模型直接建立在 DeepSeek 权重之上,开源生态反过来成为它的护城河;
- 推理成为可优化的目标:R1 把"会思考"变成训练时可以激励的一等公民,这一范式已被几乎所有头部实验室跟进。
对行业的下一站而言,真正的悬念不在"谁能训练更强的模型",而在当成本曲线被再次打穿时,谁的反应更快。DeepSeek 做的事情,本质上是把这个问题提前写在了每个对手的日程表上。
(本文为技术梳理,引用数据以 DeepSeek 官方技术报告为准;观点部分仅供参考。)