基于概率波动的扩散模型成员推断攻击
机器学习
2024-12-30 v5 人工智能
密码学与安全
计算机视觉与模式识别
摘要
成员推断攻击（MIA）通过查询机器学习模型来识别某条记录是否存在于该模型的训练集中。针对经典分类模型的 MIA 已被充分研究，近期工作开始探索如何将 MIA 迁移到生成模型上。我们的研究表明，现有为生成模型设计的 MIA 主要依赖于目标模型中的过拟合现象。然而，过拟合可通过各种正则化技术避免，而现有 MIA 在实践中表现不佳。与过拟合不同，记忆是深度学习模型达到最优性能所必需的，因而是一种更普遍的现象。生成模型中的记忆会导致在成员记录周围生成记录的概率分布呈上升趋势。因此，我们提出了一种概率波动评估成员推断攻击（PFAMI），这是一种黑盒 MIA，通过分析给定记录周围的整体概率波动来检测这些趋势，从而推断成员关系。我们在多个生成模型和数据集上进行了大量实验，结果表明，与最佳基线相比，PFAMI 可将攻击成功率（ASR）提升约 27.9%。
引用
@article{arxiv.2308.12143,
title = {A Probabilistic Fluctuation based Membership Inference Attack for Diffusion Models},
author = {Wenjie Fu and Huandong Wang and Liyuan Zhang and Chen Gao and Yong Li and Tao Jiang},
journal= {arXiv preprint arXiv:2308.12143},
year = {2024}
}
备注
Repo: https://github.com/wjfu99/MIA-Gen