兰 亭 墨 苑

标题 *

URL 别名 *

内容 * (支持 Markdown 格式) # 快，是一种系统能力 ## ——拆解 DeepSeek V4.1 Flash 的"新结构" 9 月 8 日下午三点，DeepSeek 在官方交流群丢出一行消息：V4.1 Flash 中间版本开启内测，`deepseek-v4.1-flash-expires-on-0910`。 没有发布会，没有技术报告，没有架构图。官方原话只有一句： > 采用了新的模型结构，原生多模态支持、能力更强、速度更快、且成本更低。 然后整个中文开发者圈子的第一反应是同一个词：**快**。 有人形容是"窜稀一样的速度"，有人看着看板上的 496ms 首字延迟发了半天呆，还有人说"瓶颈终于转移到了本地执行"——这句话的分量其实很重，它意味着模型侧已经快到了不再是链路短板。 这篇文章想做的事很简单：**在官方只给了六个字的情况下，尽可能严谨地拆一遍"快"是怎么来的**，以及哪些解释站得住、哪些只是传说。 --- ## 一、先量化"快"：三组数据 讨论速度之前，得先把刻度画出来。 **第一组，单轮对话。** 有开发者用同一句"你好"做了对照： | 模型 | 首 token | 输出速度 | 整轮耗时 | |---|---|---|---| | V4-Flash | 2.3s | 120 tok/s | 3.0s | | V4.1 Flash（内测） | 0.3s | 267 tok/s | 0.8s | **第二组，社区峰值。** 多人实测输出速度普遍在 300+ tok/s，最高有晒出 507 tok/s 的截图。作为参照，V4-Flash 官方标称是 **85ms 首字延迟、155 tok/s**。也就是说，实际提升大致落在 **2~3 倍**这个区间。 **第三组，也是我认为最有信息量的一组——端到端任务耗时对比（对 V4-Flash-Vision-Exp）**： - 49k 超长上下文检索：**5.2×** - SVG 代码生成：**6.0×** - Manacher 回文算法题：**4.6×** - 大型 SQL 生成与优化：**5.0×** - asyncio 异步架构重构：**3.9×** 这组数据的价值在于：它测的不是 tok/s，而是**完成任务的总时间**。而 tok/s 只翻了 2~3 倍，端到端却快了 4~6 倍——中间那多出来的部分，一定不在"解码速度"里，而在别的地方。 这个差值，就是本文要挖的核心。 --- ## 二、"新的模型结构"到底新在哪 先交代底子。V4 系列是 MoE 架构：V4-Pro 约 1.6 万亿总参、490 亿激活；V4-Flash 约 2840 亿总参、130 亿激活。V4-Flash 还用了两项 KV 缓存压缩技术（CSA、HCA），官方口径是百万 token 提示词的算力消耗降低约 73%，推理成本降到 V3.2 的 27%，显存占用压到原先的 10%。 在这个基础上，V4.1 Flash 的"新结构"可能动了哪些刀？按**可信度从高到低**排： ### 1. 投机解码：最直接、最可信的一刀 有报道称 V4.1 Flash 内置了 **DSpark 投机解码模块**（这条属于二手信息，待官方证实，但方向合理）。 投机解码（Speculative Decoding）的原理不复杂：用一个小的"草稿模型"一次猜 4~7 个 token，主模型批量验证，接受率超过 90% 就等效提速约 4 倍。它不改模型输出分布——**数学上等价**，纯粹是拿冗余算力换串行延迟。 这条解释最贴合"速度翻 2~3 倍"的观测值。而且它是**纯解码层优化**，不需要重训模型，和"中间版本"这个定位高度吻合。 ### 2. 注意力与 KV 缓存：解释"长上下文为什么快" tok/s 提升解释不了"49k 上下文检索快 5.2 倍"。这一块更可能来自注意力层。 V4 技术报告里提到过面向长上下文效率的 **hybrid attention** 改动，加上 CSA/HCA 的 KV 压缩。这类优化**不直接体现在 tok/s 上**，但会显著降低 Prefill 阶段的算力开销——而 Prefill 正是长上下文场景里最贵的那一段。 所以一个合理的推测是：**短对话快 in Decode，长上下文快 in Prefill**，两者叠加，才有了端到端 4~6 倍这个数字。 ### 3. 原生多模态：从"外挂眼睛"到"生来有眼" 这是本次最确定的定性变化。 V4-Flash-Vision-Exp 的多模态是**外挂式**的：在 V4-Flash 0731 纯文本底座上，外接一个视觉编码器（约 32 层）加一个对齐器（约 2 层）。相当于先有个文本大脑，再插一双眼睛。 V4.1 Flash 则是**原生多模态**——视觉编码从预训练阶段就嵌在主干里，图文数据一起喂。带来的好处不只是"少一次模型切换"，更是跨模态联合推理不再有理解断层。 顺带一提，这大概率也是端到端变快的原因之一：过去"读图 + 文本 + 工具调用"是三个串行环节，现在被一个模型吞掉了。 ### 4. 服务端调度：最容易被忽略、也最可能是主因 这里要回到那个数字：**缓存命中 94%**。 DeepSeek 的峰谷定价体系本身就依赖缓存命中——空闲时段缓存命中输入 0.05 元/百万 token，未命中 1.5 元，差 30 倍。这说明缓存命中率是这套商业模型的命门，而 V4.1 Flash 显然把这块做得更狠了。 再加上连续批处理、Prefill/Decode 分离、长短请求混排调度——这些**都不在模型里，在推理系统里**。 ### 5. 硬件：昇腾 950DT 到位了吗？ 社区里有种说法：快是因为华为昇腾 950DT 开始到货（此前有报道称 DeepSeek 计划部署 16 万颗）。 **这条我建议存疑。** 按当时的产能推算，普遍认为订单离到货还有相当时间。而且如果真是硬件红利，没理由只给一个两天就过期的内测模型用。 **芯片传闻目前只是传闻，不能当事实。** 更可能的原因仍然是服务端与架构优化。 --- ## 三、一个必须泼的冷水：0.3 秒可能是缓存 有个细节值得单独拎出来说。 社区里有人实测"首 token 0.3 秒"，但立刻被另一位答主质疑：**在没有上下文的"你好"这种请求上，缓存命中率怎么会那么高？** 这个质疑很到位。首字延迟的大头花在 Prefill 阶段，如果缓存命中率高，说明你之前发过一模一样的内容——那么"0.3 秒"测的其实不是模型能力，而是缓存效果。 这不是说 V4.1 Flash 不快（400+ tok/s 的解码速度是实打实的），而是提醒我们：**内测期的实测数据样本极小，且测量方法未经校准。** 首字延迟这个指标，对缓存状态极其敏感，横评时如果两边缓存状态不一致，结论就不可信。 所以现在网上流传的所有"快了多少倍"，都应该打个折扣看。真正的定论要等正式版 + 统一口径的评测。 --- ## 四、真正的答案：快是工程，不是参数 把上面五条拼起来，会得到一个不太"性感"但更接近真相的结论： **V4.1 Flash 的"快"，不是某一项黑科技，而是五个层面的叠加——架构层、解码层、调度层、推理框架层、硬件层。** 而这里最关键的一点是：**除了架构层，其余四层全是工程。** 这解释了一件有意思的事——为什么是 DeepSeek？ 因为它是"自己种菜的"。从模型架构、KV 压缩、推理框架、CUDA 算子，到 DSec 弹性计算平台（Rust 写的 Apiserver / Edge / Watcher，跑在自研 3FS 上），再到峰谷定价策略，它把整条链路都攥在自己手里。 所以它敢在官方问卷里直接问用户：**"你觉得这个模型能全面替换线上的 V4 Pro 吗？"** 这个问题的潜台词是：如果 Flash 能用 Pro 的价格和速度跑出 Pro 的能力，那才叫真正的降本增效。而这背后压着的，是前 7 个月 110 亿算力投入、4.75 亿营收、净亏 7 个多亿的现实——**速度不是炫技，是活下去的必要条件。** 同一天放出的 150 人招聘也印证了这点：**全部投向服务端开发和 Agent 弹性计算，没有一个 AI 研究岗。** 负责人崔添翼的说法是"量的激增引发了复杂度的指数级爆炸"。 这句话翻译一下就是：**模型训完了，现在卡在系统上。** --- ## 五、对构建者的启示 如果你也在做 Agent 工具链——比如在微信里跑多 agent 网关、监听剪贴板做知识管道——V4.1 Flash 这次给的最大启发，可能不是"该换模型了"，而是这三条： **第一，延迟是系统问题，不是模型问题。** 400 tok/s 的解码速度下，瓶颈会立刻转移到你的网络链路、序列化开销、本地渲染。有答主说"瓶颈终于到了本地执行"，这句话对每个做 Agent 的人都是预警：**别在模型之外的地方浪费掉模型给你的速度。** **第二，缓存是免费的加速器，但需要设计。** 94% 的缓存命中率不是天上掉的，是 prompt 结构、上下文复用策略设计出来的。你的 memory 注入机制如果每次都拼一个变动的头部，缓存基本就废了。 **第三，原生多模态会重构你的链路。** 过去"图片 → 视觉模型转文字 → 喂给主 agent"这套两跳方案，现在有机会压成一跳。少一跳不只是快，还少了信息损耗——转文字这个中间环节丢掉的细节，往往正是关键细节。 不过最后提醒一句：**这个模型 9 月 10 日就过期，20 并发限制，别写进生产配置。** 拿它做压测、验证架构方向，然后等正式版。 --- ## 结语 回到最开始那个问题：**DeepSeek 为什么这么快？** 我的答案是：**因为它把"快"当成了一个系统问题，而不是一个模型指标。** 投机解码压解码延迟，KV 压缩压 Prefill 开销，原生多模态砍掉串行环节，缓存和批处理压服务端成本，自研推理框架压硬件效率——每一层都不惊艳，叠起来就是 4~6 倍。 这其实是一个很朴素的工程真理：**当所有环节都攥在自己手里，且每一环都优化 20%，最后的结果不是 20%，而是乘起来。** 克制、全栈、层层抠细节——这大概也是所有想做个人 AI 操作系统的人，最终都会走到的同一条路。 --- **信息来源：** - [机器之心：刚刚，DeepSeek V4.1 开启测试](https://zhuanlan.zhihu.com/p/2080717823849060191) - [澎湃新闻：原生多模态支持！DeepSeek V4.1-Flash 内测](https://www.thepaper.cn/newsDetail_forward_34029862) - [字母榜：V4.1 Flash 内测，梁文锋又当回了梁圣](https://zhuanlan.zhihu.com/p/2080752004624806672) - [什么值得买：V4.1 Flash 内测体验——速度 507 tokens/s、Agent 能力涨 6 倍](https://post.smzdm.com/p/a5ro8ll8/) - [知乎问题：深度求索发布 V4.1 Flash 中间版本内测，体验如何？](https://www.zhihu.com/question/2080678583714977593)（含多位开发者实测与质疑） - [腾讯研究院 AI 速递 20260909](https://www.sohu.com/a/1073532700_455313) > 注：本文所有"推测"均已标注，官方未发布技术报告，架构细节存在不确定性。实测数据来自社区个人样本，未经统一校准。

配图 (可多选)

标签