联邦学习的 RECESS 疫苗：针对模型投毒攻击的主动防御
密码学与安全
2023-10-10 v1
摘要
模型投毒攻击极大危及联邦学习（FL）的应用。现有防御的有效性易受最新模型投毒攻击影响，导致预测精度下降。此外，这些防御难以区分良性离群值与恶意梯度，进一步损害模型泛化能力。本工作中，我们提出一种名为 RECESS 的针对模型投毒攻击的新型主动防御。与先前防御中的被动分析不同，RECESS 以精心构造的聚合梯度主动查询每个参与客户端，并根据其响应以更高准确率检测恶意客户端。此外，RECESS 使用一种新的信任评分机制来鲁棒地聚合梯度。与以往逐次迭代评分的方法不同，RECESS 考虑客户端跨多次迭代的性能相关性来估计信任分数，大幅提升了容错性。最后，我们在典型模型架构和四个数据集上于多种设置下广泛评估 RECESS。我们还评估了针对其他类型投毒攻击的防御有效性、超参数敏感性以及自适应对抗攻击。实验结果表明，在降低最新模型投毒攻击引起的精度损失方面，RECESS 优于五种经典和两种最先进防御。
引用
@article{arxiv.2310.05431,
title = {RECESS Vaccine for Federated Learning: Proactive Defense Against Model Poisoning Attacks},
author = {Haonan Yan and Wenjing Zhang and Qian Chen and Xiaoguang Li and Wenhai Sun and Hui Li and Xiaodong Lin},
journal= {arXiv preprint arXiv:2310.05431},
year = {2023}
}