设备端水印：生成式 AI 时代身份认证的社会技术必需品

随着生成式 AI 模型产出日益逼近真实，学术界和行业界正聚焦于检测 AI 输出是否由 AI 模型生成的能力。许多研究努力和政策讨论都集中在对 AI 输出进行稳健水印方面。尽管已取得显著进展，但所有水印技术和 AI 检测技术都面临严峻的局限性。本论文提出，我们正在采取错误的方法，应将水印重点放在可信内容（而非 AI 生成内容）的加密签名上。对于音视频内容，尤其是所有真实内容都植根于物理世界，经由硬件传感器捕获。这为在硬件层面进行水印提供了独特机遇，我们构建了社会技术框架，并与 HTTPS 认证和 Blu-ray 验证协议类比。尽管认识到实施挑战，但我们认为，硬件基础的身份认证从政策角度来看是一条更可行的路径。随着生成模型逼近感知无感，研究社区应谨慎对待 AI 水印的乐观前景，我们认为，AI 水印的研究 efforts 最适合聚焦于文本和大语言模型空间，这些空间最终无法追溯到物理传感器。