TY  - UNPB
TI  - Learning to Solve Hard Problems in RL for LLMs by Never Giving Up
UR  - https://arxiv.org/abs/2609.13443
DO  - 10.48550/arXiv.2609.13443
DA  - 2026-09-11
KW  - Juju Radar
KW  - 待阅读
KW  - 强化学习
KW  - 训练方法
N1  - Juju Radar · 2026-09-16  强化学习训练之后，模型可能只是把原来会做的题做得更熟，真正的难题依旧不会。Never Give Up（NGU）研究发现，给每道题分配同样的尝试次数，会让不少计算花在已经容易做对的题上，难题却得不到足够的有效样本。  NGU 的改动是：某道题一旦采样到正确答案，就让出预算；还没做对的题回到队列，继续尝试。它配合异步训练运行，并保留一定概率放弃当前题目，避免被无解题无限拖住。因此，“不放弃”是方法名，不是让模型永远重试，更不是给聊天提示词加一句鼓励。  作者用 Qwen3-4B 做数学实验，在每组约 120 个 H100 小时、三次不同随机种子的比较中，改善了难题与易题之间的训练效果取舍。编程实验也观察到对困难测试的持续改进。局限是训练集要有足够多的易题，才能腾出预算；若几乎全是难题，反复排队可能更慢，还会增加旧样本与当前模型不一致的问题。这篇适合做训练的人细读。论文 9 月 11 日提交，15 日公告。  入选理由：NGU按解题情况动态分配训练采样预算，在匹配算力实验中改善难题表现；机制简单但不把反复尝试误写成无限重试。 重要度：8.5/10。 原始提交：2026-09-11T19:02:08+00:00；arXiv公告：2026-09-15。 论文：https://arxiv.org/abs/2609.13443 本期资料：https://www.asteronline.cn/juju-radar/2026-09-16/ AI 辅助整理；PDF以原始链接附件保存，未独立复现。
ER  -