FedBAP：基于良性对抗扰动的联邦学习后门防御
密码学与安全
2025-08-05 v1 机器学习
摘要
联邦学习（Federated Learning）通过保留数据隐私实现协作模型训练，但高度易受到后门攻击。现有大多数防御方法因忽视模型对后门触发器的过度依赖而效果有限，尤其当恶意客户端比例增加时。本文提出FedBAP，即一种通过降低模型对后门触发器依赖性来缓解联邦学习后门攻击的新型防御框架。具体而言，首先，我们提出了扰动触发器生成机制，创建与后门触发器在位置和大小上精确匹配的扰动触发器，确保对模型输出产生强大影响。其次，我们利用这些扰动触发器生成干扰模型对后门触发器依赖性的良性对抗扰动，迫使其学习更健壮的决策边界。最后，我们设计了自适应缩放机制，以动态调整扰动强度，有效平衡防御强度与模型性能。实验结果表明，在三种后门攻击类型下，FedBAP分别将攻击成功率降低了0.22%-5.34%、0.48%-6.34%和97.22%-97.6%。特别是，FedBAP在抵御新型后门攻击方面表现出色。
引用
@article{arxiv.2507.21177,
title = {FedBAP: Backdoor Defense via Benign Adversarial Perturbation in Federated Learning},
author = {Xinhai Yan and Libing Wu and Zhuangzhuang Zhang and Bingyi Liu and Lijuan Huo and Jing Wang},
journal= {arXiv preprint arXiv:2507.21177},
year = {2025}
}
备注
Accepted to ACM Multimedia 2025