探究深度水印安全性：一种对抗迁移性视角
密码学与安全
2024-02-27 v1 人工智能
摘要
生成式神经网络的兴起引发了对生成内容知识产权保护（IP）需求的增加。深度水印技术因其在 IP 保护方面的灵活性而备受关注。然而，对抗迁移攻击的激增给深度水印技术的安全性带来了前所未有的挑战，而该领域目前缺乏系统性的研究。本研究通过引入两种有效的可迁移攻击者来评估深度水印面对擦除和篡改风险时的脆弱性，从而填补了这一空白。具体而言，我们首先定义了局部样本密度的概念，并利用它推导出关于模型输出一致性的定理。在发现将样本扰动至目标类的高样本密度区域（HSDR）能增强有目标的对抗迁移性后，我们提出了简单样本选择（ESS）机制和简单样本匹配攻击（ESMA）方法。此外，我们提出了瓶颈增强混合（BEM），该方法整合了信息瓶颈理论以减少生成器对无关噪声的依赖。实验表明，ESMA 和 BEM-ESMA 方法的有目标迁移攻击成功率显著提升。我们进一步使用 ESMA 和 BEM-ESMA 作为度量标准，考虑模型架构和水印编码长度进行了全面评估，并取得了一些令人瞩目的发现。
引用
@article{arxiv.2402.16397,
title = {Investigating Deep Watermark Security: An Adversarial Transferability Perspective},
author = {Biqing Qi and Junqi Gao and Yiang Luo and Jianxing Liu and Ligang Wu and Bowen Zhou},
journal= {arXiv preprint arXiv:2402.16397},
year = {2024}
}
备注
18 pages, 8 figures