增强联邦学习收敛性：一种感知贡献的异步方法
机器学习
2024-03-05 v4 人工智能
摘要
联邦学习 (FL) 是一种分布式机器学习范式，允许客户端在保留隐私的同时利用其数据训练模型。FL 算法（如联邦平均 FedAvg 及其变体）已在许多场景中展现出良好的收敛性。然而，这些方法要求客户端以同步方式将其本地更新上传至服务器，这在现实的 FL 设置中可能缓慢且不可靠。为解决此问题，研究人员开发了异步 FL 方法，允许客户端使用过时的全局模型继续在其本地数据上进行训练。然而，大多数此类方法仅简单地聚合所有接收到的更新，而未考虑其相对贡献，这可能会减缓收敛速度。在本文中，我们提出了一种感知贡献的异步 FL 方法，该方法综合考虑了接收更新的过时性和统计异构性。我们的方法基于这些因素动态调整每个更新的贡献，从而相比现有方法加速收敛。
引用
@article{arxiv.2402.10991,
title = {Enhancing Convergence in Federated Learning: A Contribution-Aware Asynchronous Approach},
author = {Changxin Xu and Yuxin Qiao and Zhanxin Zhou and Fanghao Ni and Jize Xiong},
journal= {arXiv preprint arXiv:2402.10991},
year = {2024}
}
备注
5 pages, 1 figures