面向欧盟 AI 法案新规的生成式 AI 系统水印化：实践与影响
计算机与社会
2025-10-10 v3 人工智能
摘要
近年来，AI 生成的图像质量越来越好，个体往往难以区分它们与“真实”图像。这种发展，加上 AI 生成内容在线快速传播，造成了一系列社会风险。水印化——即在图像和其他内容中嵌入信息以指示其 AI 生成性质的技术——已成为解决 AI 生成内容所面临风险的主要机制。事实上，水印化和 AI 标注措施正在在许多司法管辖区，包括 2024 年欧洲联盟 AI 法案下，成为法律要求。尽管 AI 图像生成系统应用广泛，但其这些措施的实际含义以及当前实施状况仍基本未被考察。因此，本文提供了这些措施的实证分析和法律分析。在我们的法律分析中，我们识别出四类生成式 AI 部署情景，概述了在每一类别中如何适用法律义务。在我们的实证分析中，我们发现只有少数 AI 图像生成器当前实施了充分的水印化（38%）和深度伪造标注（18%）实践。针对这一情况，我们提出了一系列改进这些法律规定技术实施的途径，并公开分享了我们用于检测图像水印的工具。
引用
@article{arxiv.2503.18156,
title = {Adoption of Watermarking for Generative AI Systems in Practice and Implications under the new EU AI Act},
author = {Bram Rijsbosch and Gijs van Dijck and Konrad Kollnig},
journal= {arXiv preprint arXiv:2503.18156},
year = {2025}
}
备注
Note that this work has not yet been published in a peer review journal, it is therefore potentially still subject to change. Update October 2025: extended and slightly revised arguments in legal analysis, results unchanged