DNN 中的隐私泄露：模型反演攻击与防御综述
计算机视觉与模式识别
2024-09-12 v2
摘要
深度神经网络凭借其在众多应用中的卓越表现，彻底改变了各个领域。然而，模型反演攻击通过滥用对已训练模型的访问权限来泄露训练数据集的私有信息，已成为一种严峻的隐私威胁。给定一个已训练的网络，这些攻击使对手能够重建与私有训练样本高度吻合的高保真数据，引发严重的隐私担忧。尽管该领域进展迅速，但仍缺乏对现有 MI 攻击和防御的全面系统概述。为了填补这一空白，本文对该领域进行了深入调查并呈现了一份全面的综述。首先，本文简要回顾了传统机器学习场景下的早期 MI 研究。随后，我们详细分析并比较了跨多种模态和学习任务的 DNN 上的近期攻击与防御方法。通过仔细分析它们的显著特征，我们总结并将这些方法分为不同类别，提供了一种新的分类法。最后，本文讨论了有前景的研究方向，并提出了开放性问题的潜在解决方案。为了促进对 MI 攻击和防御的进一步研究，我们在 GitHub 上实现了一个开源的模型反演工具箱。
引用
@article{arxiv.2402.04013,
title = {Privacy Leakage on DNNs: A Survey of Model Inversion Attacks and Defenses},
author = {Hao Fang and Yixiang Qiu and Hongyao Yu and Wenbo Yu and Jiawei Kong and Baoli Chong and Bin Chen and Xuan Wang and Shu-Tao Xia and Ke Xu},
journal= {arXiv preprint arXiv:2402.04013},
year = {2024}
}