面向异构客户端的风险感知加速无线联邦学习
机器学习
2024-01-18 v1
摘要
无线联邦学习(FL)是一种新兴的分布式机器学习范式,尤其在移动客户端上包含机密和私有数据的领域中发展势头强劲。然而,位置依赖的性能,包括传输速率和对传输错误的敏感性,对无线FL的收敛速度和准确性构成了重大挑战。在缺乏衡量客户端数据质量和安全概况指标的恶劣环境中,这一挑战更为严峻。在此背景下,本文提出了一种新颖的风险感知加速FL框架,该框架考虑了客户端在数据拥有量、传输速率、传输错误和可信度方面的异构性。我们根据客户端的位置依赖性能和可信度概况对其进行分类,提出了一种动态风险感知全局模型聚合方案,该方案允许客户端按其传输速率降序和可信度升序约束参与聚合。特别地,在初始轮次中,传输速率是主导的参与标准,以加速收敛速度。随后,我们的模型逐步放宽传输速率限制,以探索小区边缘客户端上更多的训练数据。聚合轮次中引入了一个去偏因子,以考虑传输错误。风险感知通过一个验证集实现,基站在微调阶段剔除不可信客户端。我们将所提方案与一个保守方案(即仅允许可信设备)和一个激进方案(即忽略可信度指标)进行了基准测试。数值结果突显了所提方案在准确性和收敛速度方面相较于两个基准方案的优越性。
引用
@article{arxiv.2401.09267,
title = {Risk-Aware Accelerated Wireless Federated Learning with Heterogeneous Clients},
author = {Mohamed Ads and Hesham ElSawy and Hossam S. Hassanein},
journal= {arXiv preprint arXiv:2401.09267},
year = {2024}
}