高斯成员推断隐私

Tobias Leemann; Martin Pawelczyk; Gjergji Kasneci

高斯成员推断隐私

机器学习 2023-10-27 v2 密码学与安全机器学习

作者: Tobias Leemann , Martin Pawelczyk , Gjergji Kasneci

摘要

我们提出了一种新颖且实用的隐私概念，称为 $f$ -成员推断隐私（ $f$ -MIP），其明确考虑了在成员推断攻击威胁模型下现实对手的能力。因此， $f$ -MIP提供了可解释的隐私保证并改善了效用（例如更好的分类精度）。特别地，我们通过理论分析基于似然比的成员推断攻击对随机梯度下降（SGD）的影响，推导出一族参数化的 $f$ -MIP保证，我们称之为 $\mu$ -高斯成员推断隐私（ $\mu$ -GMIP）。我们的分析强调，使用标准SGD训练的模型已经提供了基本级别的MIP。此外，我们展示了如何通过向梯度更新中添加噪声来放大 $f$ -MIP。我们的分析进一步产生了一种解析成员推断攻击，与先前方法相比具有两个明显优势。首先，不同于需要训练数百个影子模型的现有最先进攻击，我们的攻击不需要任何影子模型。其次，我们的解析攻击能够对我们的隐私概念 $f$ -MIP进行直接审计。最后，我们量化了各种超参数（例如批大小、模型参数数量）和特定数据特征如何决定攻击者准确推断某点是否属于训练集的能力。我们在视觉和表格数据集上训练的模型上证明了我们方法的有效性。

关键词

成员推断隐私高斯成员推断隐私随机梯度下降似然比攻击差分隐私影子模型隐私审计

引用

@article{arxiv.2306.07273,
  title  = {Gaussian Membership Inference Privacy},
  author = {Tobias Leemann and Martin Pawelczyk and Gjergji Kasneci},
  journal= {arXiv preprint arXiv:2306.07273},
  year   = {2023}
}

备注

NeurIPS 2023 camera-ready. The first two authors contributed equally

高斯成员推断隐私

摘要

关键词

引用

备注

相关论文