基于混合客户端选择的快速异构联邦学习
机器学习
2022-08-24 v2 人工智能
摘要
客户端选择方案在近期联邦学习（FL）研究中被广泛采用以处理通信效率问题。然而，从随机选择的缺乏代表性的子集中聚合得到的模型更新具有较大方差，直接拖慢了 FL 收敛。我们提出一种新颖的基于聚类的客户端选择方案，通过方差缩减加速 FL 收敛。我们设计了简单而有效的方案以改善聚类效果并控制效果波动，从而生成具有一定采样代表性的客户端子集。理论上，我们证明了所提方案在方差缩减上的改进。得益于方差缩减，我们也给出了所提方法更紧的收敛保证。实验结果证实了我们的方案相较其他方案具有超越性的效率。
引用
@article{arxiv.2208.05135,
title = {Fast Heterogeneous Federated Learning with Hybrid Client Selection},
author = {Guangyuan Shen and Dehong Gao and Duanxiao Song and Libin Yang and Xukai Zhou and Shirui Pan and Wei Lou and Fang Zhou},
journal= {arXiv preprint arXiv:2208.05135},
year = {2022}
}
备注
arXiv admin note: text overlap with arXiv:2201.05762