vLLM把可追溯水印做进推理采样器

推理基础设施 / AI内容溯源 · 8.3/10 · 建议持续观察

vLLM在9月24日详细解释了自己的Gumbel-max文本水印实现。先说时间：功能此前已随9月22日的v0.30.0进入开源推理框架，本次新的是机制与测试说明。它给采样过程加入与密钥相关的随机值；掌握密钥和分词器的一方，可以回算某段文本里的token选择是否呈现这个水印应有的统计偏好。文字表面没有肉眼可见的标记。

有意思的是，它试图让水印不改变模型原本的输出分布。这个保证需要说准：对密钥取平均时，单步选中某个token的概率保持不变；若上下文重复，固定密钥会让同一位置的随机偏好反复出现，整段文本仍可能更容易陷入循环。vLLM因此对重复上下文跳过加水印，也为推测解码设计了双密钥处理。它还把随机数生成和选词合成GPU内核，避免一个巨大的临时张量。

官方在单张H100上跑Qwen3.5-27B，报告不同批量下吞吐变化约为-1.1%至+2.0%。这是特定负载的性能测试，不能保证所有模型“零成本”。短回答、公式化代码和同时尝试多把密钥时，检测力会下降；水印最多提供统计证据，不能把未检出直接当作“人写的”。部署方还应检查服务器水印策略能否被单次请求覆盖。它值得关注的地方，是把内容溯源从论文想法推进到推理系统可配置的部件。