SoK：面向 AI 生成内容的水印技术综述
密码学与安全
2025-06-13 v3 人工智能
机器学习
摘要
随着生成式 AI (GenAI) 技术输出质量的提升，区分其与人类创作内容变得日益困难。水印技术是一种有前景的解决方法，通过在 AI 生成内容中嵌入隐藏信号以实现可靠检测。虽然水印技术并非解决 GenAI 所有风险的银弹，但在通过对抗误information 和欺骗方面，可发挥关键作用。本文提供了关于 GenAI 水印技术的全面概述，首先从历史和监管视角阐述水印的必要性。我们对水印方案的定义和期望属性进行形式化，并审查了现有方法的关键目标和威胁模型。还探讨了实用评估策略，为开发能够抵抗各种攻击的稳健水印技术提供了洞见。此外，我们回顾了近期的代表性工作，概述开放挑战，讨论了该新兴领域的潜在方向。通过全面理解 GenAI 中的水印技术，本工作旨在引导研究人员发展水印方法和应用，支持政策制定者应对 GenAI 的更广泛影响。
关键词
引用
@article{arxiv.2411.18479,
title = {SoK: Watermarking for AI-Generated Content},
author = {Xuandong Zhao and Sam Gunn and Miranda Christ and Jaiden Fairoze and Andres Fabrega and Nicholas Carlini and Sanjam Garg and Sanghyun Hong and Milad Nasr and Florian Tramer and Somesh Jha and Lei Li and Yu-Xiang Wang and Dawn Song},
journal= {arXiv preprint arXiv:2411.18479},
year = {2025}
}
备注
IEEE S&P 2025