SemStamp：一种具有释义鲁棒性的文本生成语义水印
计算与语言
2024-04-23 v2
摘要
现有的水印算法由于其词元级设计而易受释义攻击。为解决此问题，我们提出 SemStamp，一种基于局部敏感哈希（LSH）的鲁棒句子级语义水印算法，其对句子的语义空间进行划分。该算法对 LLM 生成的候选句子进行编码与 LSH 哈希，并执行句子级拒绝采样，直到采样句子落入语义嵌入空间中被水印标记的划分内。采用基于边界的约束以增强其鲁棒性。为展示我们算法的优势，我们提出一种“二元文法”释义攻击，使用与原始句子二元文法重叠最少的释义。该攻击被证明对现有的词元级水印方法有效。实验结果表明，我们的新型语义水印算法不仅在常见与二元文法释义攻击下均比先前最先进的方法更鲁棒，而且在保持生成质量方面也更优。
引用
@article{arxiv.2310.03991,
title = {SemStamp: A Semantic Watermark with Paraphrastic Robustness for Text Generation},
author = {Abe Bohan Hou and Jingyu Zhang and Tianxing He and Yichen Wang and Yung-Sung Chuang and Hongwei Wang and Lingfeng Shen and Benjamin Van Durme and Daniel Khashabi and Yulia Tsvetkov},
journal= {arXiv preprint arXiv:2310.03991},
year = {2024}
}
备注
Accepted to NAACL 24 Main