IMPRESS：评估基于扩散的生成式 AI 中不可感知扰动对未授权数据使用的抵御力
计算机视觉与模式识别
2023-10-31 v1 人工智能
密码学与安全
摘要
基于扩散的图像生成模型，如 Stable Diffusion 或 DALL-E 2，能够从给定图像中学习，并遵循提示引导生成高质量样本。例如，它们可用于基于某艺术家的原作模仿其风格创作艺术图像，或恶意编辑原图以制造虚假内容。然而，若未获得原图所有者的适当授权，这种能力也会带来严重的伦理问题。对此，已有若干尝试通过添加不可感知扰动来保护原图免受此类未授权数据使用，这些扰动旨在误导扩散模型使其无法正确生成新样本。本工作中，我们引入一个名为 IMPRESS 的扰动净化平台，用以评估不可感知扰动作为一种保护手段的有效性。IMPRESS 基于一个关键观察：不可感知扰动可能导致原图与扩散重建图之间出现可感知的不一致，这可用于设计一种新的优化策略来净化图像，从而可能削弱原图对未授权数据使用（如风格模仿、恶意编辑）的保护。所提出的 IMPRESS 平台对若干当代保护方法进行了全面评估，并可作为未来保护方法的评估平台。
引用
@article{arxiv.2310.19248,
title = {IMPRESS: Evaluating the Resilience of Imperceptible Perturbations Against Unauthorized Data Usage in Diffusion-Based Generative AI},
author = {Bochuan Cao and Changjiang Li and Ting Wang and Jinyuan Jia and Bo Li and Jinghui Chen},
journal= {arXiv preprint arXiv:2310.19248},
year = {2023}
}
备注
21 pages, 11 figures, 9 tables. Accepted by NeurIPS 2023