Jev新评测：分数能排序，阈值却不好直接搬用

模型评测 / AI安全 / 论文 · 8.5/10 · 建议读实验与消融

9月24日提交的Just Ask Jev测试了TypeSafe的官方Jev能否检测迎合、欺骗、提示注入等异常行为。研究覆盖44个基准、7,193条实例。对适用二元问题的31个基准，通用问题的AUROC中位数为0.886，说明分数区分正负样本的排序能力较好；这个数不是88.6%的准确率。

Jev的机制也值得再说清。官方文档定义的是：针对同一份输入，一次返回多个独立的类型化判断及概率，不先逐项写评语，再从文字里解析结论。这能减少多项检测重复调用的开销。论文对19个裁判评分基准按公开标价估算，Jev总成本0.30美元，原裁判合计18.96美元；约63倍的费用差只适用于这组实验。

更有用的发现是，排序有效不代表统一的0.5告警阈值也有效。论文发现概率与各任务的异常比例会偏离，部分任务直接使用0.5会漏报，需要任务内样本调整阈值。修改问法带来的收益有限；给模型什么参照信息往往更关键。例如检测泄密时，若不知道哪些信息应保密，单看一段回复就可能无法判断。

因此，这项研究支持的是低成本风险排序，再结合具体任务决定如何处置。测试主要使用2至7B模型的输出，部分基准标签也未独立验证；一些上下文增益依赖部署时未必拿得到的参照。代码已公开，数据集需申请访问。这是对Jev用途的一次新评测，不是新的模型发布。