面向 LLM 水印的上下文感知生成状态提升水印质量
密码学与安全
2025-06-10 v1
摘要
近期水印技术的进展使能够将秘密信息嵌入 AI 生成文本（AIGT）中，作为 AIGT 检测的重要机制。现有方法通常干扰大型语言模型（LLM）的生成过程，以在生成文本中嵌入信号。然而，这些方法往往依赖启发式规则，导致代币选择次优，进而降低生成内容的质量。本文引入一种即插即用的上下文感知生成状态感知水印框架（CAW），动态调整嵌入过程，可无缝集成于各种现有水印方法以提升生成质量。首先，CAW 集成水印容量评估器，通过分析上下文生成状态来评估在不同代币位置嵌入信息的影响。进一步，我们引入多分支预生成机制，以避免该水印策略导致的延迟。基于此，CAW 可依据每个代币的评估水印容量动态调整水印过程，从而最小化内容质量的潜在下降。广泛在多个数据集上的实验验证了该方法的有效性，表明其在检测率和生成质量方面均优于各种基线方法。
引用
@article{arxiv.2506.07403,
title = {Enhancing Watermarking Quality for LLMs via Contextual Generation States Awareness},
author = {Peiru Yang and Xintian Li and Wanchun Ni and Jinhua Yin and Huili Wang and Guoshun Nan and Shangguang Wang and Yongfeng Huang and Tao Qi},
journal= {arXiv preprint arXiv:2506.07403},
year = {2025}
}