Permute-and-Flip：一种面向 LLM 的最优稳定且可水印的解码器
计算与语言
2025-03-18 v3 密码学与安全
机器学习
摘要
在本文中，我们提出了一种名为 Permute-and-Flip (PF) 的新解码方法。它具有类似于标准采样解码器的稳定性，但在质量-稳定性权衡上可证明比采样好 2 倍，且不劣于任何其他解码器。我们还设计了一种类似于 Aaronson (2023) 的 Gumbel 水印的密码学水印方案，但自然地为 PF 解码器量身定制。该水印方案不改变采样的分布，同时在生成的文本具有高熵时允许任意低的误报率和高召回率。我们的实验表明，PF 解码器（及其带水印的对应物）在困惑度上显著优于朴素采样（及其 Gumbel 带水印的对应物），同时保持相同的稳定性（和可检测性），因此使其成为一种有前景的 LLM 解码新方法。代码可在 https://github.com/XuandongZhao/pf-decoding 获取。
关键词
引用
@article{arxiv.2402.05864,
title = {Permute-and-Flip: An optimally stable and watermarkable decoder for LLMs},
author = {Xuandong Zhao and Lei Li and Yu-Xiang Wang},
journal= {arXiv preprint arXiv:2402.05864},
year = {2025}
}
备注
ICLR 2025