面向间歇性客户端参与的平滑层次化联邦学习:阶段性决策方法
机器学习
2025-09-23 v3 分布式、并行与集群计算
摘要
联邦学习(FL)提供了一种开创性的分布式学习范式,使设备/客户端能够构建共享全局模型。该全局模型通过客户端与中心服务器之间的频繁模型传输获得,这可能导致高延迟、高能耗和回传链路拥塞。为克服这些缺点,层次化联邦学习(HFL)应运而生,它将客户端组织为多个集群,并利用边缘节点(如边缘服务器)在客户端与中心服务器之间进行中间模型聚合。当前关于HFL的研究主要关注在客户端集合稳定/固定的场景中提升模型准确率、延迟和能耗。然而,解决客户端的动态可用性——真实场景中的关键方面——仍未被充分探索。本研究深入探讨了在间歇性客户端参与条件下优化HFL中的客户端选择和客户端-边缘关联,以最小化总体系统成本(即延迟和能耗),同时实现快速模型收敛。我们揭示实现这一目标涉及求解一个复杂的NP难问题。为此,我们提出了一种将解分为两个阶段的阶段性方法,分别称为方案A和方案B。方案A专注于识别在后续模型训练轮次中具有高参与概率的长期客户端。方案B作为备份,在长期客户端在模型训练轮次中不可用时选择替代客户端。这种阶段性方法为客户端选择提供了新视角,可通过实现低开销决策过程来增强HFL和传统FL。通过在MNIST和CIFAR-10数据集上的评估,我们表明该方法在模型准确率和系统成本方面优于现有基准。
引用
@article{arxiv.2502.09303,
title = {Towards Seamless Hierarchical Federated Learning under Intermittent Client Participation: A Stagewise Decision-Making Methodology},
author = {Minghong Wu and Minghui Liwang and Yuhan Su and Li Li and Seyyedali Hosseinalipour and Xianbin Wang and Huaiyu Dai and Zhenzhen Jiao},
journal= {arXiv preprint arXiv:2502.09303},
year = {2025}
}
备注
23 pages, 10 figures,9 tables