FLAIN：通过翻转低激活输入神经元的权重更新来缓解联邦学习中的后门攻击
机器学习
2025-07-23 v2 人工智能
摘要
联邦学习（FL）使多个客户端在中心服务器的协调下协同训练机器学习模型，同时保持隐私。然而，服务器无法直接监控本地训练过程，这为恶意客户端引入模型后门留下了空间。研究表明，后门攻击会利用特定被激活的神经元，这些神经元仅由恶意输入激活，而在干净数据下保持 dormant。基于此洞察，我们提出一种新型防御方法，称为翻转低激活输入神经元的权重更新（FLAIN），以应对联邦学习中的后门攻击。具体而言，在全局训练完成后，我们使用辅助数据集识别低激活输入神经元并迭代翻转其关联的权重更新。这种翻转过程持续进行，直到模型在辅助数据上的性能显著恶化。广泛的实验表明，FLAIN 在包括非 IID 数据分布和高恶意客户端比率（MCR）的各种场景中，有效降低了后门攻击的成功率，同时对干净数据的性能影响最小。
引用
@article{arxiv.2408.08655,
title = {FLAIN: Mitigating Backdoor Attacks in Federated Learning via Flipping Weight Updates of Low-Activation Input Neurons},
author = {Binbin Ding and Penghui Yang and Sheng-Jun Huang},
journal= {arXiv preprint arXiv:2408.08655},
year = {2025}
}
备注
9 pages, 4 figures, ICMR'25. Updated author information and improved experiments in v2