FedECADO:联邦学习的动力系统模型
机器学习
2024-10-15 v1 系统与控制
系统与控制
摘要
联邦学习利用分布式优化来训练跨独立客户端的统一机器学习模型。然而,异构的数据分布和计算工作量可能导致更新不一致并限制模型性能。本工作通过提出 FedECADO 算法来解决这些挑战,FedECADO 受联邦学习过程动力系统表示的启发。FedECADO 通过反映每个客户端处理的数据量的聚合灵敏度模型来处理非 IID 数据分布。为解决异构计算问题,我们设计了一种带有自适应步长选择的多速率集成方法,以同步活跃客户端的更新。与包括 FedProx 和 FedNova 在内的主要技术相比,FedECADO 在诸多异构场景下实现更高的分类准确率。
引用
@article{arxiv.2410.09933,
title = {FedECADO: A Dynamical System Model of Federated Learning},
author = {Aayushya Agarwal and Gauri Joshi and Larry Pileggi},
journal= {arXiv preprint arXiv:2410.09933},
year = {2024}
}