Uno:用离散扩散加速自回归模型推理
Unlocking Lossless Speedups in LLMs via Discrete Diffusion
并行提出多个 token,再验证是否接受。“无损”指保留模型的采样分布,实际加速取决于硬件与任务配置。
相关期次:2026-09-09 精选
阅读笔记
Uno在自回归模型上训练轻量扩散参数,一次提出多个token,再由Ψ-Spec采样器验证接受。无损针对基础模型采样分布,不代表回答内容无错误。
入选理由:推理加速机制和公开实现值得复现,编辑重要度8.5/10。论文自报最高约3倍加速,实际效果取决于硬件、批量、上下文和采样配置;本期没有运行性能实验。
补看:论文9月3日提交,9月8日HF推荐。代码9月3日至4日已存在,9月8日只有README格式调整,不作为当天新发布。
项目:https://s-sahoo.com/uno/
代码:https://github.com/ifm-ai/uno
本期资料:https://www.asteronline.cn/juju-radar/2026-09-09/
AI辅助整理。
笔记记录收录当期的判断。阅读一手材料不等于独立复现;后续进展请以原始来源为准。