通过IID与通信感知分组实现准确快速的联邦学习
机器学习
2020-12-10 v1 分布式、并行与集群计算
摘要
联邦学习已成为协作机器学习的一种新范式;然而,它也面临若干挑战,如非独立同分布(IID)数据和高通信成本。为此,我们提出一种新颖的IID与通信感知分组联邦学习框架,通过基于节点数据分布和物理位置对节点分组,同时最大化准确率和通信速度。此外,我们提供了形式化的收敛分析以及一种称为FedAvg-IC的高效优化算法。实验结果表明,与最先进(SOTA)算法相比,FedAvg-IC将测试准确率最高提升22.2%,同时将通信时间缩减至低至12%。
引用
@article{arxiv.2012.04857,
title = {Accurate and Fast Federated Learning via IID and Communication-Aware Grouping},
author = {Jin-woo Lee and Jaehoon Oh and Yooju Shin and Jae-Gil Lee and Se-Young Yoon},
journal= {arXiv preprint arXiv:2012.04857},
year = {2020}
}