论推断机器学习模型的训练数据属性
密码学与安全
2019-10-15 v2 机器学习
摘要
最近的一些工作表明,通过 API 访问机器学习模型会泄露有关用于训练模型的数据集记录的信息。此外,\cite{somesh-overfit} 的工作表明,此类成员推理攻击(MIA)可能足以构建更强的属性推理攻击(AIA),后者在给定记录的部分视图的情况下可以猜测缺失的属性。在这项工作中,我们表明(相反地)MIA 可能不足以构建成功的 AIA。这是因为后者需要区分相似记录(仅在少数属性上不同)的能力,而且正如我们所证明的,当前的 MIA 无法成功区分成员记录与相似的非成员记录。因此,我们提出了一种放宽的 AIA 概念,其目标是仅近似猜测缺失的属性,并论证如果将 MIA 用作推断训练记录属性的子程序,此类攻击更有可能成功。
引用
@article{arxiv.1908.10558,
title = {On Inferring Training Data Attributes in Machine Learning Models},
author = {Benjamin Zi Hao Zhao and Hassan Jameel Asghar and Raghav Bhaskar and Mohamed Ali Kaafar},
journal= {arXiv preprint arXiv:1908.10558},
year = {2019}
}
备注
Accepted by PPML'19, a CCS workshop. Submission of 4-pages bar references, and appendix V2: Update in dataset splitting, and comments on related works