RISE：利用模型自身的训练变化构造蒸馏目标

RISE: Recursive Improvement via Self-Extrapolating Policy Distillation

根据策略在训练中的变化外推教师信号，尝试降低后训练成本；论文实验不等于模型可以无限自我提升。

首次公开：2026-09-04 · 收录：2026-09-08

相关期次：2026-09-08 精选

阅读笔记

以下为2026-09-08期已核验稿件的阅读笔记，保留当时的证据与判断，不代表后续研究已确认。

🧠 RISE：沿着刚刚学会的方向，再往前走一点

模型训练 · 8.5/10｜建议深挖

训练模型时，如果只告诉它整道题对不对，反馈往往太粗；找一个更强的模型当老师，又多了一层成本和依赖。RISE 的做法是比较模型当前版本与较早版本，提取这段训练带来的变化，再沿着变化方向外推，构造一个临时的老师，把更细的逐词反馈教回当前模型。

可以把它理解为：先靠能验算的答案确定进步方向，再用这个方向改善推理过程中的选择。老师会随训练更新，所以不必一直追着一个固定的外部模型学。这里的新意是把过去的训练过程变成新的监督信号，而不是让模型反复夸奖自己的答案。

作者在 1.7B 至 8B 规模的模型上，测试了数学、科学知识、代码和多轮任务。以 Qwen3-8B 的一组实验为例，数学平均分从 GRPO 基线的 60.0 提高到 62.7。但额外训练并不免费，论文报告的总耗时约为 GRPO 的 1.3–1.6 倍；奖励如果有漏洞，外推也可能放大错误方向。它是一种值得复现的训练方法，还远谈不上证明模型能无限自我改进。

[RISE 论文](https://arxiv.org/html/2609.05295v1))

入选理由：自身训练轨迹构造老师，机制不同于外部教师蒸馏；有实验和计算开销。

论文原始日期：2026-09-04；本期归档日期：2026-09-08。
本期资料：https://www.asteronline.cn/juju-radar/2026-09-08/
AI辅助整理。

笔记记录收录当期的判断。阅读一手材料不等于独立复现；后续进展请以原始来源为准。