通过频谱分配优化与设备选择增强联邦学习
分布式、并行与集群计算
2022-12-29 v1 信号处理
摘要
机器学习(ML)是一种被广泛接受的手段,用于为移动设备和应用提供定制化服务。联邦学习(FL)是一种在解决数据隐私问题的同时实现机器学习的有前景的方法,它通常涉及大量无线移动设备来收集模型训练数据。在这种情况下,面对无线带宽需求、功耗以及参与设备的计算限制等有限资源,FL需要满足严格的训练延迟要求。出于实际考虑,FL在每次迭代中选择一部分设备参与模型训练过程。因此,高效的资源管理与设备选择任务将对FL的实际应用产生重大影响。在本文中,我们提出了一种用于增强无线移动网络上FL的频谱分配优化机制。具体而言,所提出的频谱分配优化机制在考虑各参与设备能耗的同时最小化FL的时间延迟;从而确保所有参与设备拥有充足资源训练其本地模型。在此基础上,为确保FL快速收敛,还提出了一种鲁棒的设备选择方法,以帮助FL迅速达到收敛,尤其是在设备的本地数据集非独立同分布(non-iid)时。实验结果表明:(1)所提出的频谱分配优化方法在满足各设备能量约束的同时优化了时间延迟;(2)所提出的设备选择方法使FL能够在non-iid数据集上实现最快收敛。
引用
@article{arxiv.2212.13544,
title = {Enhancing Federated Learning with spectrum allocation optimization and device selection},
author = {Tinghao Zhang and Kwok-Yan Lam and Jun Zhao and Feng Li and Huimei Han and Norziana Jamil},
journal= {arXiv preprint arXiv:2212.13544},
year = {2022}
}
备注
This paper is accepted by IEEE/ACM Transactions on Networking