面向联邦学习的分布外后门攻击
机器学习
2025-09-17 v1 密码学与安全
摘要
传统的联邦学习后门攻击 operates within 受限攻击情景，因为它们依赖可见触发器且需要对目标对象进行物理修改，这限制了其实际应用性。为克服这一限制，我们提出一种新型联邦学习后门攻击原型，称为分布外 (OOD) 后门攻击 ()，其同时将 OOD 数据用作被投毒样本和触发器。我们的ethods显著拓宽了联邦学习攻击情景的范围。为提高的隐蔽性，我们提出，该方法在本地训练期间对恶意本地模型的幅度和方向进行正则化，使其与其良性版本紧密一致，以规避检测。实证结果表明，有效规避了最先进的防御措施，同时在主任务上保持高准确率。为应对该安全漏洞，我们引入，一种针对的新型服务器端防御方法。利用批量归一化层运行统计发生显著偏离的事实，这使我们能够识别恶意模型更新并将其从聚合中排除，从而增强联邦学习的后门鲁棒性。广泛的实验表明，在防御方面效果显著。代码已公开于 https://github.com/JiiahaoXU/SoDa-BNGuard。
引用
@article{arxiv.2509.13219,
title = {On the Out-of-Distribution Backdoor Attack for Federated Learning},
author = {Jiahao Xu and Zikai Zhang and Rui Hu},
journal= {arXiv preprint arXiv:2509.13219},
year = {2025}
}
备注
To appear at MobiHoc 2025