无线边缘网络上支持聚类联邦学习的客户端选择方法
分布式、并行与集群计算
2021-08-20 v1 机器学习
摘要
聚类联邦多任务学习（CFL）被引入作为一种高效方案，用于在客户端间数据不平衡且以非独立同分布（non-i.i.d.）方式分布时获得可靠的专用模型。虽然可使用余弦相似度等相似性度量指标为客户端群组赋予专用模型，但此过程可能很繁琐，因为服务器应在每一轮联邦学习中让所有客户端参与。因此，由于网络边缘的有限带宽和时延约束，定期选择客户端子集势在必行。为此，本文提出一种新的客户端选择算法，旨在加速收敛以获得对所有客户端群组均能达到高测试精度的专用机器学习模型。具体而言，我们引入一种客户端选择方法，利用设备的异构性根据其轮次时延调度客户端，并对更新模型耗时较长的客户端复用带宽。随后，服务器执行模型平均并基于预定义阈值对客户端聚类。当特定簇达到驻点时，所提算法通过该簇中选择低时延客户端更新模型的贪心调度算法进行调度。大量实验表明，所提方法在为每个客户端赋予适配其本地数据分布的专用模型的同时，将训练时间缩短、收敛速率提升高达 50%。
引用
@article{arxiv.2108.08768,
title = {Client Selection Approach in Support of Clustered Federated Learning over Wireless Edge Networks},
author = {Abdullatif Albaseer and Mohamed Abdallah and Ala Al-Fuqaha and Aiman Erbad},
journal= {arXiv preprint arXiv:2108.08768},
year = {2021}
}
备注
4 figures, 7 pages