关于自回归图像生成水印鲁棒性的研究
计算机视觉与模式识别
2026-04-14 v1 人工智能
密码学与安全
摘要
自回归（AR）图像生成器的不断涌现，对可靠的检测和归因机制至关重要，以缓解误information的风险，并从训练数据中过滤合成图像以防止模型崩溃。为此，专为AR模型设计的水印技术在生成时嵌入细微信号，通过相应的水印检测器实现下游验证。本文研究了这些方案，展示了其对水印移除和伪造攻击的脆弱性。我们评估了现有攻击方法，并引入了三种新型攻击：（i）向量量化再生移除攻击，（ii）对抗优化-based攻击，（iii）频率注入攻击。我们的评估表明，仅凭访问单个水印参考图像，即可有效实施移除和伪造攻击，且无需获取原始模型参数或水印密钥。我们的发现表明，现有针对AR图像生成的水印方案可靠性不足以支持数据集过滤中的合成内容检测。此外，这些方案实现了水印模仿（Watermark Mimicry），即可以操控真实图像以模拟生成器的水印，从而触发错误检测，阻止其被纳入未来模型训练。
引用
@article{arxiv.2604.11720,
title = {On the Robustness of Watermarking for Autoregressive Image Generation},
author = {Andreas Müller and Denis Lukovnikov and Shingo Kodama and Minh Pham and Anubhav Jain and Jonathan Petit and Niv Cohen and Asja Fischer},
journal= {arXiv preprint arXiv:2604.11720},
year = {2026}
}