针对扩散模型的成员推理攻击
密码学与安全
2023-03-23 v2 机器学习
摘要
扩散模型作为创新的生成模型近年来备受关注。本文研究扩散模型是否能够抵抗成员推理攻击，该攻击用于评估机器学习模型的隐私泄露。我们主要从与作为传统模型的生成对抗网络（GAN）的对比，以及扩散模型独有的超参数（即时间步、采样步数和采样方差）的角度讨论扩散模型。我们在 CelebA 和 CIFAR-10 数据集上，分别在白盒和黑盒设置下，以 DDIM 作为扩散模型、DCGAN 作为 GAN 进行了大量实验，随后验证扩散模型是否具有与 GAN 相当的针对成员推理攻击的抵抗力。接着，我们证明了时间步的影响是显著的，且噪声调度中的中间步骤最容易受到该攻击。通过进一步分析，我们还发现了两个关键见解。首先，我们发现 DDIM 在样本量较小的情况下容易受到攻击，而不是在实现较低 FID 时。其次，超参数中的采样步数对抵抗攻击很重要，而采样方差的影响非常有限。
引用
@article{arxiv.2302.03262,
title = {Membership Inference Attacks against Diffusion Models},
author = {Tomoya Matsumoto and Takayuki Miura and Naoto Yanai},
journal= {arXiv preprint arXiv:2302.03262},
year = {2023}
}