Juju Radar
返回 2026-09-19 完整精选

SoL-Pi:少花一半 token,代价是什么

2026-09-19 收录 · Agent / 开源工程

Agent / 开源工程 · 9/10 · 建议深挖

NVIDIA 等机构的 SoL-Pi,把改进对象放在 Agent 的运行框架,而非模型参数上。研究团队让 Agent 提出并测试优化方案,经过152个假设、535个可执行环境和3000多次运行,保留下几种能减少重复开销的办法。

其中一些做法很具体:把改文件与后续测试合并进一次工具请求;长输出先保留完整记录,之后用短摘要和可回查的引用;压缩测试日志时,校验退出状态、关键原文等证据,出错就退回原始输出。上下文压缩也要算账,节省的后续开销需要抵过重写缓存的成本。

效果有两面。在冻结的51个留出任务上,四种机制一起启用时,GPT-5.6 Sol 的 token 用量减少49%,API 成本减少33.2%,平均得分却从44.833降到42.003。另一种偏重成绩的配置只选部分机制,得分更高,但不能把它与“省一半 token”拼成同一个结果。

这个项目的价值,是把工具调用、日志和上下文的浪费变成可测量的问题。扩展代码已公开,但任务集仍有限,前期搜索本身也很花钱;它不等于模型已经能够无成本地递归自我升级。做 Coding Agent 的读者,可以先看日志压缩的失败回退设计。