联邦学习下局部差分隐私中的主动成员推断攻击
机器学习
2023-08-30 v2 人工智能
密码学与安全
摘要
联邦学习（FL）最初被视为一种通过协调服务器实现具有数据隐私保护的客户端间协作学习的框架。本文提出一种由不诚实服务器在 FL 中发起的新型主动成员推断（AMI）攻击。在 AMI 攻击中，服务器将恶意参数植入并嵌入全局模型，以有效推断某一目标数据样本是否包含在某客户端的私有训练数据中。通过利用数据特征间的相关性经由非线性决策边界，具有可证明成功保证的 AMI 攻击在严格的局部差分隐私（LDP）保护下仍能实现极高的成功率，从而将客户端的训练数据暴露于显著的隐私风险中。在多个基准数据集上的理论与实验结果表明，添加足够的隐私保护噪声以抵御我们的攻击将严重损害 FL 的模型效用。
引用
@article{arxiv.2302.12685,
title = {Active Membership Inference Attack under Local Differential Privacy in Federated Learning},
author = {Truc Nguyen and Phung Lai and Khang Tran and NhatHai Phan and My T. Thai},
journal= {arXiv preprint arXiv:2302.12685},
year = {2023}
}
备注
Published at AISTATS 2023