面向拜占庭敌手的Nesterov加速鲁棒联邦学习
机器学习
2025-11-05 v1
摘要
我们研究鲁棒联邦学习，其中一组 worker 在中心服务器的协调下共同训练共享模型，面临拜占庭敌手的威胁，这些敌手具有任意且可能具有恶意行为的能力。为同时提高通信效率和对此类敌手的鲁棒性，我们提出了一种拜占庭抗性Nesterov加速联邦学习（Byrd-NAFL）算法。Byrd-NAFL 将Nesterov的动量无缝集成到联邦学习过程中，同时结合拜占庭抗性聚合规则，以实现对梯度腐化的快速且安全收敛。我们在非凸和光滑损失函数下建立了Byrd-NAFL的有限时间收敛保证，假设对聚合梯度放宽。大量数值实验验证了Byrd-NAFL的有效性，证明了其在收敛速度、准确度和对多样化拜占庭攻击策略的鲁棒性方面优于现有基准。
关键词
引用
@article{arxiv.2511.02657,
title = {Nesterov-Accelerated Robust Federated Learning Over Byzantine Adversaries},
author = {Lihan Xu and Yanjie Dong and Gang Wang and Runhao Zeng and Xiaoyi Fan and Xiping Hu},
journal= {arXiv preprint arXiv:2511.02657},
year = {2025}
}