通过方向对齐检验检测联邦学习中的后门攻击
机器学习
2025-03-20 v2 密码学与安全
分布式、并行与集群计算
摘要
训练的分布式特性使得联邦学习（FL）容易受到后门攻击，其中恶意的模型更新旨在损害全局模型在特定任务上的性能。现有的防御方法效果有限，因为它们忽略了良性模型更新与恶意模型更新在一般方向和细粒度方向上的不一致性。为了填补这一空白，我们引入了 AlignIns，这是一种旨在保护 FL 系统免受后门攻击的新型防御方法。AlignIns 通过方向对齐检验过程审查每个模型更新的方向。具体而言，它检查模型更新与整体更新方向的对齐情况，并分析其显著参数符号的分布，将其与所有模型更新中的主符号进行比较。表现出异常对齐程度的模型更新被视为恶意的，从而被过滤掉。我们提供了关于 AlignIns 鲁棒性及其在 FL 中传播误差的理论分析。我们在独立同分布（IID）和非 IID 数据集上的实证结果表明，与最先进的防御方法相比，AlignIns 实现了更高的鲁棒性。代码可在 https://github.com/JiiahaoXU/AlignIns 获取。
引用
@article{arxiv.2503.07978,
title = {Detecting Backdoor Attacks in Federated Learning via Direction Alignment Inspection},
author = {Jiahao Xu and Zikai Zhang and Rui Hu},
journal= {arXiv preprint arXiv:2503.07978},
year = {2025}
}