您的敏感属性是否私密？面向分类模型的新型模型反演属性推断攻击
密码学与安全
2022-01-25 v1 机器学习
摘要
机器学习（ML）技术在医疗诊断、生活方式预测和商业决策等隐私敏感领域的日益广泛使用，凸显了有必要更好地理解这些 ML 技术是否正在引入敏感和专有训练数据的泄露。在本文中，我们关注模型反演攻击，其中 adversary 知晓训练数据中记录的非敏感属性，并旨在仅利用对目标分类模型的黑盒访问来推断 adversary 未知的敏感属性值。我们首先设计了一种新颖的基于置信度分数的模型反演属性推断攻击，其显著优于当前最优方法。然后我们引入了一种仅依赖模型预测标签的仅标签模型反演攻击，但在攻击有效性方面仍与我们的基于置信度分数的攻击相当。我们还将攻击扩展到目标记录的某些其他（非敏感）属性对 adversary 未知的场景。我们在三种真实数据集上训练的决策树和深度神经网络两类机器学习模型上评估了我们的攻击。此外，我们实证展示了模型反演攻击的差异性脆弱性，即训练数据集中的特定群体（按性别、种族等分组）可能更容易受到模型反演攻击。
引用
@article{arxiv.2201.09370,
title = {Are Your Sensitive Attributes Private? Novel Model Inversion Attribute Inference Attacks on Classification Models},
author = {Shagufta Mehnaz and Sayanton V. Dibbo and Ehsanul Kabir and Ninghui Li and Elisa Bertino},
journal= {arXiv preprint arXiv:2201.09370},
year = {2022}
}
备注
Conditionally accepted to USENIX Security 2022. This is not the camera-ready version. arXiv admin note: substantial text overlap with arXiv:2012.03404