稳定扩散模型中的隐私威胁
计算机视觉与模式识别
2023-11-17 v1 人工智能
机器学习
摘要
本文介绍了一种针对稳定扩散计算机视觉模型的成员推断攻击(MIA)新方法，特别关注StabilityAI的高度复杂Stable Diffusion V2。MIA旨在提取有关模型训练数据的敏感信息，带来显著的隐私担忧。尽管在图像合成方面取得了进展，我们的研究揭示了稳定扩散模型输出中的隐私漏洞。利用该信息，我们设计了一种仅需反复查询受害模型的黑盒MIA。我们的方法包括观察稳定扩散模型在不同生成轮次下的输出，并训练一个分类模型以区分一系列中间结果是否源自训练样本。我们提出了多种度量成员特征的方式，并讨论了何种方式效果最佳。使用ROC AUC方法评估攻击效力，显示出60%的成员信息推断成功率。本文为机器学习隐私与安全研究的不断增长作出了贡献，凸显了对抗MIA的鲁棒防御之需。我们的发现促使对稳定扩散模型隐私影响的重新评估，敦促从业者与开发者实施增强的安全措施以防此类攻击。
引用
@article{arxiv.2311.09355,
title = {Privacy Threats in Stable Diffusion Models},
author = {Thomas Cilloni and Charles Fleming and Charles Walter},
journal= {arXiv preprint arXiv:2311.09355},
year = {2023}
}