语言模型水印强度与投机采样效率间的必然权衡
密码学与安全
2024-10-29 v1 人工智能
摘要
大型语言模型是概率模型，生成内容的过程本质上是从语言模型的输出分布中进行采样。现有的水印技术在生成内容中注入水印而不改变输出质量。另一方面，现有的加速技术，特别是投机采样，利用草稿模型在保持输出分布的同时加速采样过程。然而，目前尚无方法能够同时加速采样过程并在生成内容中注入水印。在本文中，我们研究了这一方向，并发现水印与加速的整合并非易事。我们证明了一个不可行定理，指出不可能同时保持最高的水印强度和最高的采样效率。此外，我们提出了两种方法，分别保持采样效率或水印强度，但无法兼得。我们的工作为理解大型语言模型加速生成水印 token 时水印强度与采样效率之间的内在权衡提供了严格的理论基础。我们还进行了数值实验，以验证我们的理论发现并证明所提方法的有效性。
引用
@article{arxiv.2410.20418,
title = {Inevitable Trade-off between Watermark Strength and Speculative Sampling Efficiency for Language Models},
author = {Zhengmian Hu and Heng Huang},
journal= {arXiv preprint arXiv:2410.20418},
year = {2024}
}