MIA-BAD:一种增强成员推断攻击及其通过联邦学习缓解的方法
密码学与安全
2023-12-04 v1 人工智能
机器学习
摘要
成员推断攻击(MIA)是一种破坏机器学习(ML)模型隐私的流行范式。MIA 利用 ML 模型对训练数据过拟合的自然倾向。MIA 被训练以区分训练与测试的预测置信度,从而推断成员信息。联邦学习(FL)是一种隐私保护的 ML 范式,使多个客户端能够在不披露私有数据的情况下训练统一模型。在本文中,我们提出了一种带批量生成攻击数据集的增强成员推断攻击(MIA-BAD),作为对 MIA 方法的改进。我们研究发现,当攻击数据集以批量方式生成时,MIA 更为准确。这在数量上减少了攻击数据集,同时在质量上改进了它。我们展示了通过 FL 训练 ML 模型具有一些明显优势,并研究了如何利用 FL 方法缓解所提出的 MIA-BAD 方法引入的威胁。最后,我们通过使用各种目标数据集、可变数量的联邦客户端以及训练批量大小进行大量实验,展示了所提出的 MIA-BAD 方法的定性效果。
引用
@article{arxiv.2312.00051,
title = {MIA-BAD: An Approach for Enhancing Membership Inference Attack and its Mitigation with Federated Learning},
author = {Soumya Banerjee and Sandip Roy and Sayyed Farid Ahamed and Devin Quinn and Marc Vucovich and Dhruv Nandakumar and Kevin Choi and Abdul Rahman and Edward Bowen and Sachin Shetty},
journal= {arXiv preprint arXiv:2312.00051},
year = {2023}
}
备注
6 pages, 5 figures, Accepted to be published in ICNC 23