针对机器学习模型的相关性推断攻击
机器学习
2024-07-19 v4 密码学与安全
摘要
尽管机器学习模型如今被广泛使用，但模型与其训练数据集之间的关系尚未被充分理解。我们探究相关性推断攻击，即模型是否以及在何时泄露其训练数据集输入变量之间相关性的信息。我们首先提出一种无模型攻击，其中 adversary 仅利用相关矩阵的球参数化进行有根据的猜测。其次，我们提出一种基于模型的攻击，其中 adversary 利用黑盒模型访问，在最小且现实的假设下推断相关性。第三，我们在三个表格数据集上针对逻辑回归和多层感知机模型评估了我们的攻击，并显示这些模型会泄露相关性。最后我们展示了提取的相关性如何用作属性推断攻击的构建模块，并使更弱的 adversaries 得以实现。我们的结果对模型从其训练集中记住了什么以及应当记住什么提出了根本性问题。
引用
@article{arxiv.2112.08806,
title = {Correlation inference attacks against machine learning models},
author = {Ana-Maria Creţu and Florent Guépin and Yves-Alexandre de Montjoye},
journal= {arXiv preprint arXiv:2112.08806},
year = {2024}
}
备注
Published in Science Advances. This version contains both the main paper and supplementary material. There are minor editorial differences between this version and the published version. The first two authors contributed equally