白盒与黑盒：成员推断的贝叶斯最优策略
机器学习
2019-08-30 v1 密码学与安全
机器学习
摘要
成员推断旨在给定样本和机器学习模型的训练参数时，判断该样本是否属于训练集。本文中，我们在对参数分布作若干假设下推导了成员推断的最优策略。我们表明最优攻击仅依赖于损失函数，因此黑盒攻击与白盒攻击同样有效。由于最优策略难以处理，我们给出其若干近似，由此导出多种推断方法，并表明现有成员推断方法为该最优策略的较粗近似。我们的成员推断攻击在从简单逻辑回归到更复杂架构与数据集（如 ResNet-101 和 Imagenet）的多种设置下均优于当前最优水平。
引用
@article{arxiv.1908.11229,
title = {White-box vs Black-box: Bayes Optimal Strategies for Membership Inference},
author = {Alexandre Sablayrolles and Matthijs Douze and Yann Ollivier and Cordelia Schmid and Hervé Jégou},
journal= {arXiv preprint arXiv:1908.11229},
year = {2019}
}