通过循环聚合实现快速收敛的联邦学习
机器学习
2022-11-01 v1 信号处理
摘要
联邦学习(FL)旨在多个边缘设备上优化共享全局模型,而不将(私有)数据传输至中心服务器。尽管理论上已知 FL 在温和条件下可得到最优模型——即假设所有边缘设备数据在中心服务器可得时的集中训练模型——但实际上,它常需大量迭代才能收敛,尤其在存在统计/计算异构性时。本文在服务端利用循环学习率,以不增加服务端和边缘设备任何额外计算成本的方式减少训练迭代次数并提升性能。数值结果表明,简单地将所提循环聚合插入现有 FL 算法,能有效减少训练迭代次数并改善性能。
引用
@article{arxiv.2210.16520,
title = {Fast-Convergent Federated Learning via Cyclic Aggregation},
author = {Youngjoon Lee and Sangwoo Park and Joonhyuk Kang},
journal= {arXiv preprint arXiv:2210.16520},
year = {2022}
}
备注
5 pages