通过个体遗忘识别联邦学习中的后门模型
机器学习
2024-11-05 v1 密码学与安全
分布式、并行与集群计算
摘要
后门攻击对联邦学习（FL）的鲁棒性构成了重大威胁，因其隐蔽性和有效性。它们同时维持FL系统的主任务和后门任务，导致恶意模型在统计上与良性模型相似，从而使其能够逃避现有防御方法的检测。我们发现后门模型中的恶意参数在主任务上是不活跃的，导致在干净输入上的机器遗忘过程中产生显著较大的经验损失。受此启发，我们提出了MASA，一种利用个体遗忘来识别FL中恶意模型的方法。为了提高MASA在具有挑战性的非独立同分布（non-IID）设置中的性能，我们设计了预遗忘模型融合，将局部模型与从其他数据集学到的知识整合，以缓解由客户端non-IID数据分布引起的遗忘行为分歧。此外，我们提出了一种具有最少超参数的新异常检测指标，以高效过滤恶意模型。在六个不同攻击上的IID和non-IID数据集上的广泛实验验证了MASA的有效性。据我们所知，这是第一篇利用机器遗忘来识别FL中恶意模型的工作。代码可在 \url{https://github.com/JiiahaoXU/MASA} 获取。
引用
@article{arxiv.2411.01040,
title = {Identify Backdoored Model in Federated Learning via Individual Unlearning},
author = {Jiahao Xu and Zikai Zhang and Rui Hu},
journal= {arXiv preprint arXiv:2411.01040},
year = {2024}
}