FedGrad：通过检查本地最终梯度缓解联邦学习中的后门攻击
计算机视觉与模式识别
2023-05-02 v1
摘要
联邦学习（FL）使多个客户端能够在不泄露敏感数据的情况下训练模型。FL 的去中心化特性使其易受对抗攻击，尤其是在训练期间插入后门。近来，利用数据分布尾部的边缘情形后门攻击被提出为一种强力攻击，引发了关于当前防御鲁棒性保障不足的疑问。具体而言，大多数现有防御无法消除边缘情形后门攻击，或在后门防御效果与主任务整体性能之间存在权衡。为应对此挑战，我们提出 FedGrad，一种新颖的抗后门 FL 防御方法，其能抵抗包括边缘情形攻击在内的前沿后门攻击，并在异构客户端数据和大量受损客户端下有效运行。FedGrad 被设计为双层过滤机制，彻底分析最终层的梯度以识别可疑本地更新并将其从聚合过程中移除。我们在不同攻击场景下评估 FedGrad，表明其显著优于最先进的防御机制。值得注意的是，FedGrad 几乎能 100% 正确检测恶意参与者，从而显著削弱后门效应（例如后门准确率低于 8%），同时不降低主任务上的主要准确率。
引用
@article{arxiv.2305.00328,
title = {FedGrad: Mitigating Backdoor Attacks in Federated Learning Through Local Ultimate Gradients Inspection},
author = {Thuy Dung Nguyen and Anh Duy Nguyen and Kok-Seng Wong and Huy Hieu Pham and Thanh Hung Nguyen and Phi Le Nguyen and Truong Thao Nguyen},
journal= {arXiv preprint arXiv:2305.00328},
year = {2023}
}
备注
Accepted for presentation at the International Joint Conference on Neural Networks (IJCNN 2023)