通过双向选举与个体视角抵御联邦学习中的后门攻击
机器学习
2024-05-21 v2
摘要
现有防御联邦学习（FL）中后门攻击的方法主要通过 a) 减轻被感染模型的影响，或 b) 排除被感染模型。前者对模型精度产生负面影响，而后者通常依赖于良性与受感染模型更新之间全局清晰的边界。然而，由于本地数据的多样分布，模型更新在现实中容易混合且分散。本工作聚焦于排除 FL 中受感染模型。与以往全局视角的不同，我们提出 Snowball，一种受我们推导的一条原则以及 FL 与深度学习中的两条原则启发的、通过个体视角双向选举的新型抗后门 FL 框架。其特点在于 a) 自下而上的选举，其中每个候选模型更新对若干对等更新投票，使得少数模型更新被选为入选者用于聚合；以及 b) 自上而下的选举，其中入选者通过从候选者中挑选而逐步扩大自身。我们在五个真实世界数据集上将 Snowball 与最先进的 FL 后门攻击防御进行比较，证明了其对后门攻击的优越抵抗能力以及对全局模型精度的轻微影响。
引用
@article{arxiv.2309.16456,
title = {Resisting Backdoor Attacks in Federated Learning via Bidirectional Elections and Individual Perspective},
author = {Zhen Qin and Feiyi Chen and Chen Zhi and Xueqiang Yan and Shuiguang Deng},
journal= {arXiv preprint arXiv:2309.16456},
year = {2024}
}
备注
Accepted by AAAI 2024. Codes are publicly available at https://github.com/zhenqincn/Snowball