成员推断攻击的数据与模型依赖性
机器学习
2020-07-28 v5 机器学习
摘要
机器学习（ML）模型已被证明易受成员推断攻击（MIA）的威胁，此类攻击通过观察 ML 模型的预测输出来推断给定数据点在目标数据集中的成员关系。尽管 MIA 成功的关键因素尚未被完全理解，现有的防御机制如采用 L2 正则化 \cite{10shokri2017membership} 和 dropout 层 \cite{salem2018ml} 仅考虑了模型的过拟合特性。在本文中，我们对数据和 ML 模型属性对 ML 技术抵御 MIA 脆弱性的影响进行了实证分析。我们的结果揭示了 MIA 准确率与所用数据集及训练模型属性之间的关系。特别地，我们表明影子数据集的规模、类别与特征平衡及目标数据集的熵、训练模型的配置与公平性是最具影响的因素。基于这些实验发现，我们得出结论：除模型过拟合外，多种属性共同促成 MIA 的成功，而非任何单一属性。基于我们的实验发现，我们提出将这些数据和模型属性用作正则化项以保护 ML 模型免受 MIA。我们的结果表明，所提出的防御机制可在不牺牲 ML 模型预测效用的前提下，将 MIA 准确率降低至多 25%。
引用
@article{arxiv.2002.06856,
title = {Data and Model Dependencies of Membership Inference Attack},
author = {Shakila Mahjabin Tonni and Dinusha Vatsalan and Farhad Farokhi and Dali Kaafar and Zhigang Lu and Gioacchino Tangari},
journal= {arXiv preprint arXiv:2002.06856},
year = {2020}
}