扩散模型是否易受成员推断攻击？
计算机视觉与模式识别
2023-05-31 v2 人工智能
密码学与安全
机器学习
摘要
基于扩散的生成模型在图像合成方面已展现出巨大潜力，但关于其可能带来的安全与隐私风险尚缺乏研究。本文中，我们考察了扩散模型对成员推断攻击（MIA，一种常见隐私问题）的脆弱性。我们的结果表明，现有为 GAN 或 VAE 设计的 MIA 在扩散模型上大多无效，原因或为场景不适用（如需要 GAN 的判别器），或为假设不合理（如合成样本与成员样本间距离更近）。为弥补这一空白，我们提出逐步误差比较成员推断（SecMI），一种基于查询的 MIA，通过评估各时间步前向过程后验估计的匹配程度来推断成员关系。SecMI 遵循 MIA 中常见的过拟合假设，即与留出样本相比，成员样本通常具有更小的估计误差。我们同时考虑了标准扩散模型（如 DDPM）与文本到图像扩散模型（如 Latent Diffusion Models 和 Stable Diffusion）。实验结果表明，我们的方法在两种场景下的多个不同数据集上均以高置信度精确推断成员关系。代码见 https://github.com/jinhaoduan/SecMI。
引用
@article{arxiv.2302.01316,
title = {Are Diffusion Models Vulnerable to Membership Inference Attacks?},
author = {Jinhao Duan and Fei Kong and Shiqi Wang and Xiaoshuang Shi and Kaidi Xu},
journal= {arXiv preprint arXiv:2302.01316},
year = {2023}
}
备注
To appear in ICML 2023