寻找替罪羊：面向联邦学习的投毒成员推断攻击与防御
密码学与安全
2025-07-02 v1 分布式、并行与集群计算
机器学习
摘要
联邦学习允许多个客户端在来自中心服务器的协调下，无需共享原始数据即可协同训练全局机器学习模型。这种方法在 GDPR 等隐私法规时代尤为吸引人，导致许多领先公司采纳它。然而，联邦学习的分布性质使其易受投毒攻击的威胁，恶意客户端由攻击者控制，可发送有害数据以破坏模型。目前大多数针对联邦学习的投毒攻击旨在降低模型的完整性，如降低其准确度，仅关注这些攻击对隐私的影响有限。本研究引入 FedPoisonMIA，一种针对联邦学习的新型投毒成员推断攻击。FedPoisonMIA 涉及恶意客户端精心设计本地模型更新以推断成员信息。此外，我们提出一种稳健防御机制以减轻 FedPoisonMIA 攻击的影响。广泛的实验表明，攻击有效且我们的防御方法显著降低了其影响。
引用
@article{arxiv.2507.00423,
title = {Find a Scapegoat: Poisoning Membership Inference Attack and Defense to Federated Learning},
author = {Wenjin Mo and Zhiyuan Li and Minghong Fang and Mingwei Fang},
journal= {arXiv preprint arXiv:2507.00423},
year = {2025}
}
备注
To appear in ICCV 2025