用于无线联邦学习高效资源管理的聚类调度与通信流水线
机器学习
2022-06-16 v1
摘要
本文提出使用通信流水线来提升移动边缘计算应用中联邦学习的无线频谱利用效率与收敛速度。由于无线子信道有限，在联邦学习算法的每次迭代中仅调度全部客户端的一个子集。另一方面，被调度的客户端需等待最慢的客户端完成其计算。我们提出首先根据每轮迭代计算联邦学习模型局部梯度所需时间对客户端聚类。然后，我们调度来自所有聚类的混合客户端以流水线方式发送其局部更新。如此，不再仅等待较慢客户端完成计算，更多客户端可参与每轮迭代。虽然单轮迭代的时间长度不变，所提方法能显著减少达到目标精度所需迭代次数。我们给出了不同设定下最优客户端聚类的通用表述，并解析推导了获得最优解的高效算法。我们还提供了数值结果以展示所提方法在不同数据集与深度学习架构下的增益。
引用
@article{arxiv.2206.07631,
title = {Clustered Scheduling and Communication Pipelining For Efficient Resource Management Of Wireless Federated Learning},
author = {Cihat Keçeci and Mohammad Shaqfeh and Fawaz Al-Qahtani and Muhammad Ismail and Erchin Serpedin},
journal= {arXiv preprint arXiv:2206.07631},
year = {2022}
}
备注
31 pages, 4 figures