联邦学习中为鲁棒模型应对加剧的异质性
机器学习
2023-03-02 v1
摘要
现实应用中对隐私与安全的关切促使了对抗鲁棒联邦模型的发展。然而，将对抗训练与联邦学习直接结合于同一框架中会导致不期望的鲁棒性退化。我们发现此现象的根源在于所生成的对抗数据会加剧本地客户端间的数据异质性，使封装的联邦学习表现不佳。为应对该问题，我们提出一种称为松弛联邦对抗训练（SFAT）的新框架，在聚合时分配客户端级别的松弛以对抗增强的异质性。理论上，我们分析了所提方法的收敛性，以在结合联邦学习与对抗训练时恰当地松弛目标。实验上，我们在多种基准与真实数据集上，结合不同对抗训练与联邦优化方法，验证了SFAT的合理性与有效性。代码已公开于https://github.com/ZFancy/SFAT。
引用
@article{arxiv.2303.00250,
title = {Combating Exacerbated Heterogeneity for Robust Models in Federated Learning},
author = {Jianing Zhu and Jiangchao Yao and Tongliang Liu and Quanming Yao and Jianliang Xu and Bo Han},
journal= {arXiv preprint arXiv:2303.00250},
year = {2023}
}
备注
ICLR 2023