中文

BOBA:面向标签偏斜的拜占庭鲁棒联邦学习

机器学习 2024-03-21 v2

摘要

在联邦学习中,大多数现有的鲁棒聚合规则(AGRs)在IID设定下抵御拜占庭攻击,其中客户端数据被假设为独立同分布。在本文中,我们处理标签偏斜这一更现实且具挑战性的非IID设定,其中每个客户端仅能访问少数几类数据。在此设定下,最先进的AGRs遭受选择偏差,导致特定类的性能显著下降;由于诚实客户端梯度间变异增大,它们也更易受拜占庭攻击。为解决这些局限,我们提出一种名为BOBA的高效两阶段方法。理论上,我们证明了BOBA以最优阶误差收敛。我们的实证评估表明,与多种基线相比,BOBA在不同模型与数据集上具有更优的无偏性与鲁棒性。我们的代码可在 https://github.com/baowenxuan/BOBA 获取。

关键词

引用

@article{arxiv.2208.12932,
  title  = {BOBA: Byzantine-Robust Federated Learning with Label Skewness},
  author = {Wenxuan Bao and Jun Wu and Jingrui He},
  journal= {arXiv preprint arXiv:2208.12932},
  year   = {2024}
}

备注

Accepted by AISTATS 2024