对抗样本亦有良效：基于对抗样本防止扩散模型模仿绘画
计算机视觉与模式识别
2023-06-07 v2 人工智能
密码学与安全
机器学习
摘要
近来，扩散模型（Diffusion Models, DMs）在AI艺术领域掀起浪潮，但也引发了新的版权担忧，侵权者利用未经授权的绘画训练DMs以生成相似风格的新绘画而获益。为应对这些新兴版权侵犯，本文首次探索并提出利用DMs的对抗样本来保护人类创作的艺术品。具体而言，我们首先建立理论框架以定义和评估DMs的对抗样本。然后，基于该框架，我们设计了一种名为AdvDM的新算法，通过对从DMs反向过程采样的不同潜变量进行优化，利用蒙特卡洛估计得到DMs的对抗样本。大量实验表明，生成的对抗样本能有效阻碍DMs提取其特征。因此，我们的方法可成为人类艺术家对抗配备基于DM的AI艺术应用的侵权者、保护其版权的有力工具。我们的方法代码已在GitHub上提供：https://github.com/mist-project/mist.git。
引用
@article{arxiv.2302.04578,
title = {Adversarial Example Does Good: Preventing Painting Imitation from Diffusion Models via Adversarial Examples},
author = {Chumeng Liang and Xiaoyu Wu and Yang Hua and Jiaru Zhang and Yiming Xue and Tao Song and Zhengui Xue and Ruhui Ma and Haibing Guan},
journal= {arXiv preprint arXiv:2302.04578},
year = {2023}
}
备注
Accepted by ICML2023 (Oral)