FreqMark：基于频率的句子级 LLM 生成文本水印
计算与语言
2024-10-16 v1 密码学与安全
机器学习
摘要
大型语言模型（LLM）用于生成高度连贯且上下文相关的文本，带来了新的风险，包括用于虚假信息或学术不端的滥用。为应对这些挑战，我们提出 FreqMark，一种新颖的水印技术，通过在标记采样过程中将可检测的基于频率的水印嵌入 LLM 生成的文本中。该方法利用周期性信号引导标记选择，创建可通过短时傅里叶变换（STFT）分析检测的水印。该方法即使在包含人类撰写和 LLM 生成片段的混合文本中，也能准确识别 LLM 生成的内容。我们的实验表明，FreqMark 在鲁棒性和精度方面表现出色，对各种攻击场景（如改写和标记替换）都具备强大的检测能力。结果显示，FreqMark 在 AUC 上提升了最高可达 0.98，显著优于现有检测方法。
关键词
引用
@article{arxiv.2410.10876,
title = {FreqMark: Frequency-Based Watermark for Sentence-Level Detection of LLM-Generated Text},
author = {Zhenyu Xu and Kun Zhang and Victor S. Sheng},
journal= {arXiv preprint arXiv:2410.10876},
year = {2024}
}