评分标准写得很细，也可能把 AI 奖励到错误方向

评测 / 强化学习 · 8.5/10 · 建议深挖

现在不少训练和评测先让模型写一份评分细则，再按这份细则给回答打分。ImpossibleRubrics 检查了一个容易漏掉的问题：假如题目根本无法根据现有材料得出确定结论，评分标准会不会反而奖励那个编得最完整的答案？

研究准备了 169 个此类任务和 48 个可回答的对照任务。每题附有一份独立约束，规定哪些说法有证据、哪些不该出现；攻击模型则尝试写出违反约束、却能拿到不低于诚实回答分数的答案。这样测的是评分细则能否被利用，不是普通问答的准确率。

在用于统一比较的 150 个任务上，11 种模型生成的细则被成功利用的比例为 8% 至 26%。论文还报告了一个专门筛出的 45 题困难子集，那里失败率明显更高，不能拿它代表日常任务。细则生成、攻击和判断都依赖模型，样本主要是封闭证据材料，结果也不宜外推到所有科研或商业评审。

最值得留意的不是谁排第一，而是标准可能要求错了东西：材料没有给出某个概率，细则却奖励一个确定数字。条目越具体，反而越清楚地告诉攻击者应该编什么。代码和复现材料已公开；论文 9 月 15 日提交、16 日公告。做自动评分时，应先检查“无法作答”是否也是合法结果。