Agent能重做界面,离重做行为还很远
论文 / Computer Use · 8.7/10 · 奇怪但可能重要
RecreationWorld给Agent一个正在运行的参考应用,不提供源码,要求它一边操作界面、一边在终端里写代码,最后重做出能运行的版本。任务横跨Ubuntu、macOS、Windows、Android和网页五个平台;RecreationBench各取50个应用,共250项。
这个设计比常见的截图还原更严格。Agent必须自己点开菜单、输入数据、观察状态变化,再写代码、启动自己的版本并回到界面检查。评测也不只看视觉相似度:隐藏测试会读取按钮状态、文本和操作结果,另有视觉断言检查布局、颜色和画布内容。每条测试先在参考应用上跑通,再由人工审核后冻结。
结果很能说明今天Agent的短板。GPT-6 Astra总分58.1%,在参评模型中最高;但只有2.8%的任务通过了全部程序测试。模型较容易复刻静态结构,对交互状态、计算结果和跨步骤行为明显更差,生成的应用也往往比原作更小、更集中在单个文件里。看起来像,并不等于真的一样工作。
论文还把这些环境用于训练,两个不同起点的模型在五项分布外评测中都比早期检查点更好,最高提升17.9个百分点。这个结果只能说明“用可执行反馈训练”有转移迹象,不能证明复刻应用已经解决通用Computer Use;不同平台的隔离强度也不完全一致,例如Android尚未提供数据包级的外连证明。
这篇论文9月18日提交,9月21日进入Hugging Face Daily Papers,因此列作近期补看,不算当天首发。它的价值在于把GUI操作、写代码和自动验证放进同一个长循环,也给“Agent是否真的完成了应用”提供了比演示视频更硬的答案。