利用自影响函数的成员推断攻击
机器学习
2022-05-30 v1 计算机视觉与模式识别
摘要
成员推断（MI）攻击旨在确定特定数据样本是否用于训练机器学习模型。因此，MI 是对在私人敏感数据（如医疗记录）上训练的模型的主要隐私威胁。在 MI 攻击中，可考虑黑盒设定（模型参数与激活值对对手隐藏）或白盒情形（攻击者可获取它们）。本工作中，我们聚焦于后者，并提出一种新颖的 MI 攻击，其利用影响函数，更具体地利用样本的自影响分数（self-influence scores）来执行 MI 预测。我们在 CIFAR-10、CIFAR-100 和 Tiny ImageNet 数据集上评估我们的攻击，使用 AlexNet、ResNet 和 DenseNet 等多种架构。我们的攻击方法在有无数据增强的训练下均取得了新的 SOTA 结果。代码见 https://github.com/giladcohen/sif_mi_attack。
引用
@article{arxiv.2205.13680,
title = {Membership Inference Attack Using Self Influence Functions},
author = {Gilad Cohen and Raja Giryes},
journal= {arXiv preprint arXiv:2205.13680},
year = {2022}
}