Scifaro

中文

通过泛化差距及其他模型度量量化成员推断脆弱性

机器学习 2020-09-15 v1 密码学与安全机器学习

作者: Jason W. Bentley , Daniel Gibney , Gary Hoppenworth , Sumit Kumar Jha

在 arXiv 上查看 ↗ PDF ↗

摘要

我们展示了目标模型的泛化差距如何直接导致一种有效的确定性黑盒成员推断攻击（MIA）。这基于一个简单度量给出了模型对MIA安全性上限。此外，在仅能获取关于网络训练与性能的某些可能获得的度量的条件下，该攻击在期望意义下被证明是最优的。实验上，该攻击在许多情况下被证明与最先进MIA精度相当。

关键词

成员推断攻击泛化差距黑盒攻击模型脆弱性深度学习

引用

@article{arxiv.2009.05669,
  title  = {Quantifying Membership Inference Vulnerability via Generalization Gap and Other Model Metrics},
  author = {Jason W. Bentley and Daniel Gibney and Gary Hoppenworth and Sumit Kumar Jha},
  journal= {arXiv preprint arXiv:2009.05669},
  year   = {2020}
}