异构联邦学习：研究现状与挑战
机器学习
2023-09-11 v2 人工智能
计算机视觉与模式识别
摘要
联邦学习（FL）因其在大规模工业应用中的潜在用途而受到越来越多的关注。现有联邦学习工作主要关注模型同构设置。然而，实际联邦学习通常面临参与客户端之间数据分布、模型架构、网络环境和硬件设备的异构性。异构联邦学习（HFL）更具挑战性，且相应解决方案多样而复杂。因此，关于该研究挑战与前沿进展的系统性综述十分必要。在本综述中，我们首先从五个方面总结 HFL 中的各类研究挑战：统计异构性、模型异构性、通信异构性、设备异构性及其他挑战。此外，回顾了 HFL 的最新进展，并提出了现有 HFL 方法的新分类法，深入分析了其优缺点。我们根据 HFL 流程从三个不同层次对现有方法进行分类：数据层、模型层和服务器层。最后，讨论了 HFL 中若干关键且有前景的未来研究方向，或可推动该领域的进一步发展。HFL 的定期更新合集见 https://github.com/marswhu/HFL_Survey。
引用
@article{arxiv.2307.10616,
title = {Heterogeneous Federated Learning: State-of-the-art and Research Challenges},
author = {Mang Ye and Xiuwen Fang and Bo Du and Pong C. Yuen and Dacheng Tao},
journal= {arXiv preprint arXiv:2307.10616},
year = {2023}
}
备注
42 pages, 11 figures, and 4 tables