GLEAN：用于消除对抗噪声的生成式学习
密码学与安全
2024-09-18 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
在 DALL-E 和 Stable Diffusion 等强大扩散模型的时代，数字艺术界的许多人因其作品被用于微调这些模型而遭受了风格模仿攻击。通过文本到图像扩散模型模仿艺术家风格的能力引发了严重的伦理问题，尤其是在未经明确同意的情况下。Glaze 是一种对数字艺术作品施加各种范围扰动的工具，在防止风格模仿攻击方面取得了显著成功，但代价是产生从难以察觉的噪声到严重质量下降的伪影。Glaze 的发布引发了关于类似保护方法有效性的进一步讨论。在本文中，我们提出了 GLEAN——应用图像到图像（I2I）生成网络来剥离 Glazed 图像上的扰动，并在 Glaze 的结果上评估 GLEAN 前后风格模仿攻击的性能。GLEAN 旨在通过揭示其局限性并鼓励进一步发展来支持和增强 Glaze。
引用
@article{arxiv.2409.10578,
title = {GLEAN: Generative Learning for Eliminating Adversarial Noise},
author = {Justin Lyu Kim and Kyoungwan Woo},
journal= {arXiv preprint arXiv:2409.10578},
year = {2024}
}