Juju Radar
论文库

DeepSeek V4.1 Flash:长任务先从缓存省起

DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression

输入与输出采用不同激活规模,通过跨层复用和局部重放压缩两类缓存;权重已公开,节省比例不等于整机成本降幅。

首次公开:2026-09-10 · 收录:2026-09-11

相关期次:2026-09-11 精选

阅读笔记

DeepSeek 于 9 月 10 日正式发布 V4.1 Flash,支持原生图像理解和百万 token 上下文。它采用输入、输出不对称的因果编码器—解码器结构:读入内容时每个 token 激活约 8B 参数,生成内容时激活约 16B。Agent 经常一次读入很多工具结果、只输出一小段操作,这种设计针对的正是输入远多于输出的工作负载。

更值得细读的是 KV Cache,也就是模型为了复用前文计算而保存的缓存。新模型让不同层复用缓存,并采用 FP4 精度存储;在相同序列长度下,全局 KV 缓存降到每 token 890 字节,约为 V4 Flash 的四分之一。另一项部署优化只重放最近一段内容来恢复局部状态,使需要持久保存到 SSD 或主机内存的 KV 缓存约降到八分之一。这两个比例对应不同缓存,不能理解成整套服务显存和费用都按同样比例下降。

权重、推理文件和技术报告已公开,API 也已切换。部署时要留意:552B 是主干参数,另外还有 196B 的 Engram 条件记忆等组件;8B/16B 是每个 token 的激活量,并不意味着普通显卡就能装下模型。官方列出的代码任务成绩有明显进步,但框架、推理预算和测试集版本会影响结果。技术报告也承认,最难的推理任务仍与领先闭源模型有差距,缓存近似恢复的极端情况还需继续检查。

对现有 API 用户还有一件实际的事:官方计划在北京时间 9 月 14 日 12:00 后,将 V4 Pro 请求路由到 V4.1 Flash,直至后续 Pro 上线。依赖旧模型行为的应用,应先做自己的任务回归测试,而不只比较排行榜。

重要度9.5/10。非对称计算与两类缓存压缩直接影响长任务成本,正式权重和报告公开,非此前测试接口重复报道。
原始报告:https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash/blob/main/DeepSeek_V41_Tech_Report.pdf
本期资料:https://www.asteronline.cn/juju-radar/2026-09-11/
AI辅助整理。

笔记记录收录当期的判断。阅读一手材料不等于独立复现;后续进展请以原始来源为准。