BOBA:面向标签偏斜的拜占庭鲁棒联邦学习
机器学习
2024-03-21 v2
摘要
在联邦学习中,大多数现有的鲁棒聚合规则(AGRs)在IID设定下抵御拜占庭攻击,其中客户端数据被假设为独立同分布。在本文中,我们处理标签偏斜这一更现实且具挑战性的非IID设定,其中每个客户端仅能访问少数几类数据。在此设定下,最先进的AGRs遭受选择偏差,导致特定类的性能显著下降;由于诚实客户端梯度间变异增大,它们也更易受拜占庭攻击。为解决这些局限,我们提出一种名为BOBA的高效两阶段方法。理论上,我们证明了BOBA以最优阶误差收敛。我们的实证评估表明,与多种基线相比,BOBA在不同模型与数据集上具有更优的无偏性与鲁棒性。我们的代码可在 https://github.com/baowenxuan/BOBA 获取。
引用
@article{arxiv.2208.12932,
title = {BOBA: Byzantine-Robust Federated Learning with Label Skewness},
author = {Wenxuan Bao and Jun Wu and Jingrui He},
journal= {arXiv preprint arXiv:2208.12932},
year = {2024}
}
备注
Accepted by AISTATS 2024