JPEG 压缩图像可绕过针对 AI 编辑的保护
机器学习
2023-04-11 v2 密码学与安全
计算机视觉与模式识别
摘要
近期开发的文本到图像扩散模型使得编辑或生成高质量图像变得容易。其易用性引发了关于恶意编辑或深度伪造生成的担忧。不可感知扰动被提出作为一种保护图像免受恶意编辑的手段,通过阻止扩散模型生成逼真图像来实现。然而,我们发现上述扰动对 JPEG 压缩不具备鲁棒性,这构成了一个主要弱点,因为 JPEG 的使用广泛且易得。我们讨论了加性不可感知扰动的鲁棒性的重要性,并倡导采用替代方法来保护图像免受编辑。
引用
@article{arxiv.2304.02234,
title = {JPEG Compressed Images Can Bypass Protections Against AI Editing},
author = {Pedro Sandoval-Segura and Jonas Geiping and Tom Goldstein},
journal= {arXiv preprint arXiv:2304.02234},
year = {2023}
}
备注
8 pages, 8 figures