Juju Radar
返回 2026-09-24 完整精选

Fireworks训练模型少想一些,实测Agent推理Token下降

2026-09-24 收录 · 推理效率 / 模型后训练

推理效率 / 模型后训练 · 8.6/10 · 建议观察复测

Fireworks发布Ember-1,基于Kimi K3做专门的后训练,目标是在复杂任务中少产生无效推理token。对Coding Agent来说,这不只是一次回答少写几句话:每轮工具调用都可能把前面长长的思考过程带回上下文,越早产生的冗长推理,越可能在后续轮次反复计费。把模型的无效循环压短,节省会在整条任务里叠加。

Fireworks称,简单调低K3的推理档位会损失质量,因此用任务反馈训练模型保留必要的自我修正,减少重复琢磨。它报告七项评测和两家客户的线上A/B测试,推理token大约减少35%至50%,客户任务质量大体持平。这里也有反例:其表格中SWE-bench Verified从K3最高推理档位的93.2%降到Ember-1的92.2%,并非每项指标完全不变。

这仍主要是发布方的评测,客户负载、实际价格和长期失败重试成本需要外部团队复测。眼下更可靠的判断是:模型效率竞争开始深入后训练,目标从“每百万token多便宜”转向“完成一项多轮任务究竟需要多少token”。