Juju Radar
论文库

Uno:用离散扩散加速自回归模型推理

Unlocking Lossless Speedups in LLMs via Discrete Diffusion

并行提出多个 token,再验证是否接受。“无损”指保留模型的采样分布,实际加速取决于硬件与任务配置。

首次公开:2026-09-03 · 收录:2026-09-09

相关期次:2026-09-09 精选

阅读笔记

Uno在自回归模型上训练轻量扩散参数,一次提出多个token,再由Ψ-Spec采样器验证接受。无损针对基础模型采样分布,不代表回答内容无错误。

入选理由:推理加速机制和公开实现值得复现,编辑重要度8.5/10。论文自报最高约3倍加速,实际效果取决于硬件、批量、上下文和采样配置;本期没有运行性能实验。

补看:论文9月3日提交,9月8日HF推荐。代码9月3日至4日已存在,9月8日只有README格式调整,不作为当天新发布。
项目:https://s-sahoo.com/uno/
代码:https://github.com/ifm-ai/uno
本期资料:https://www.asteronline.cn/juju-radar/2026-09-09/
AI辅助整理。

笔记记录收录当期的判断。阅读一手材料不等于独立复现;后续进展请以原始来源为准。