模型反演攻击：方法与对策综述
机器学习
2025-11-03 v2
摘要
深度神经网络的成功推动了从欧几里得数据到非欧几里得数据的众多研究与应用。然而，由于这些网络依赖于处理私有数据，隐私泄露的担忧日益增加。最近，一种新型隐私攻击——模型反演攻击（MIAs）——旨在通过滥用对训练良好的模型的访问权限，提取用于训练的私有数据的敏感特征。MIAs 的有效性已在图像、文本和图等多个领域得到验证。这些攻击凸显了神经网络的脆弱性，并提高了研究界对隐私泄露风险的认识。尽管意义重大，但缺乏系统性研究为不同领域的 MIAs 提供全面概述和深入见解。本综述旨在总结攻击与防御两方面最新的 MIA 方法，突出其贡献与局限、底层建模原理、优化挑战及未来方向。希望本综述能填补文献空白，并促进该关键领域的未来研究。此外，我们维护了一个仓库以跟踪相关研究，地址为 https://github.com/AndrewZhou924/Awesome-model-inversion-attack。
引用
@article{arxiv.2411.10023,
title = {Model Inversion Attacks: A Survey of Approaches and Countermeasures},
author = {Zhanke Zhou and Jianing Zhu and Fengfei Yu and Xuan Li and Xiong Peng and Tongliang Liu and Bo Han},
journal= {arXiv preprint arXiv:2411.10023},
year = {2025}
}
备注
35 pages, 17 figures