多种成员推断攻击与目标模型下数据点的脆弱性研究
密码学与安全
2022-10-31 v1 人工智能
摘要
成员推断攻击（MIAs）推断某个数据点是否位于机器学习模型的训练数据中。当处于训练数据中属于数据点的隐私信息时，这便构成了一种威胁。MIA 能正确推断部分数据点属于或不属于训练数据的成员。直观上，被 MIA 准确检测出的数据点是脆弱的。考虑到这些数据点可能存在于易受多种 MIA 攻击的不同目标模型中，多种 MIA 与目标模型下数据点的脆弱性值得探究。本文定义了新的度量指标，能够反映数据点脆弱性的实际情况，并捕捉多种 MIA 与目标模型下的脆弱数据点。分析表明，尽管整体推断性能较低，MIA 对部分数据点存在推断倾向。此外，我们实现了 54 种 MIA，其平均攻击准确率介于 0.5 到 0.9 之间，借助我们可扩展且灵活的成员推断攻击平台（VMIAP）支撑分析。再者，已有方法不适用于在多种 MIA 与不同目标模型下发现脆弱数据点。最后，我们观察到脆弱性并非数据点的特征，而是与 MIA 及目标模型相关。
引用
@article{arxiv.2210.16258,
title = {On the Vulnerability of Data Points under Multiple Membership Inference Attacks and Target Models},
author = {Mauro Conti and Jiaxin Li and Stjepan Picek},
journal= {arXiv preprint arXiv:2210.16258},
year = {2022}
}