扩散模型安全性？基于梯度引导的扩散模型严重数据泄露
计算机视觉与模式识别
2024-06-17 v1 密码学与安全
摘要
梯度泄露已被识别为现代图像处理系统中潜在的隐私泄露来源，攻击者可从泄露的梯度中完全重建训练图像。然而，现有方法局限于重建低分辨率图像，尚未充分探索图像处理系统的数据泄露风险。本文利用扩散模型，提出一种创新的梯度引导微调方法，引入一种新的重建攻击，能够通过泄露的梯度窃取具有严重数据泄露风险的高分辨率图像。我们的攻击方法易于实现，所需先验知识有限。实验结果表明，当前的重建攻击只能窃取分辨率为 像素的图像，而我们的攻击方法能够成功恢复并窃取分辨率高达 像素的图像。我们的攻击方法在像素级精度和图像重建时间效率方面均显著优于 SOTA 攻击基线。此外，我们的攻击在一定程度上使差分隐私失效。
引用
@article{arxiv.2406.09484,
title = {Is Diffusion Model Safe? Severe Data Leakage via Gradient-Guided Diffusion Model},
author = {Jiayang Meng and Tao Huang and Hong Chen and Cuiping Li},
journal= {arXiv preprint arXiv:2406.09484},
year = {2024}
}