Bad-PFL：探索针对个人化联邦学习的后门攻击
机器学习
2025-01-23 v1 密码学与安全
计算机视觉与模式识别
摘要
数据异构性和后门攻击是联邦学习 (FL) 面临的两个最重要的挑战之一。在数据异构性方面，个人化联邦学习 (PFL) 使每个客户机能够维护自己的私有个人化模型，以满足特定客户机的知识需求。同时，传统 FL 已证明对后门攻击极其脆弱。然而，近期的 PFL 社区的进展表明，PFL 可能对此类攻击具有潜在免疫性。本文进一步探讨了这一交叉点，揭示了现有联邦后门攻击在 PFL 中无法发挥作用的原因，因为关于手动设计触发器的后门在个人化模型中难以存活。为此，我们设计了 Bad-PFL，采用来自自然数据的特征作为触发器。只要模型在自然数据上进行训练，它就必然嵌入与我们触发器相关联的后门，从而确保其在个人化模型中的持久性。此外，我们的触发器会与模型进行相互强化训练，从而进一步巩固后门的耐久性并增强攻击效果。大规模实验在三个基准数据集上表明，我们的攻击对各种 PFL 方法都具有优异性能，即使配备最先进的防御机制也能有效。
引用
@article{arxiv.2501.12736,
title = {Bad-PFL: Exploring Backdoor Attacks against Personalized Federated Learning},
author = {Mingyuan Fan and Zhanyi Hu and Fuyi Wang and Cen Chen},
journal= {arXiv preprint arXiv:2501.12736},
year = {2025}
}
备注
Accepted to ICLR 2025