Mist：面向扩散模型改进对抗样本的研究
计算机视觉与模式识别
2023-05-23 v1 人工智能
摘要
扩散模型（DMs）在人工智能生成内容尤其是艺术创作中取得了巨大成功，但也引发了知识产权与版权方面的新担忧。例如，侵权者可利用 DMs 模仿未授权的人工创作画作牟利。近期研究表明，针对扩散模型的各种对抗样本可有效对抗此类版权侵权。然而，当前对抗样本在不同绘画模仿方法间的可迁移性较弱，且在简单对抗防御（如噪声净化）下的鲁棒性不足。我们惊讶地发现，在一致参数下利用融合且改进的对抗损失项可显著增强对抗样本的可迁移性。本文中，我们全面评估了对抗样本的跨方法可迁移性。实验观察表明，我们的方法生成的对抗样本具有更强的可迁移性，并对简单对抗防御具备更强的鲁棒性。
引用
@article{arxiv.2305.12683,
title = {Mist: Towards Improved Adversarial Examples for Diffusion Models},
author = {Chumeng Liang and Xiaoyu Wu},
journal= {arXiv preprint arXiv:2305.12683},
year = {2023}
}
备注
Working paper