探索联邦学习的实用性:面向通信视角的综述
机器学习
2024-06-03 v1 计算机视觉与模式识别
摘要
联邦学习(FL)是一种有前景的范式,它通过在不集中数据的情况下,实现跨分布式设备的模型协作训练,为隐私保护的分布式机器学习提供了显著进步。然而,FL系统的实际部署面临一个重大瓶颈:在众多设备与中央服务器之间频繁交换大型模型更新所导致的通信开销。这种通信低效会阻碍训练速度、模型性能以及现实世界FL应用的整体可行性。在本综述中,我们研究了通信高效FL的各种策略和进展,强调了它们的影响以及克服FL系统固有通信挑战的潜力。具体而言,我们定义了通信效率的度量标准,分析了FL系统中通信低效的根源,并提供了对最先进通信高效FL方法的分类和全面回顾。此外,我们讨论了增强FL系统通信效率的有前景的未来研究方向。通过解决通信瓶颈,FL可以有效地应用于需要隐私保护、分布式机器学习的各种应用(如物联网、医疗保健或金融),并实现可扩展和实际的部署。
引用
@article{arxiv.2405.20431,
title = {Exploring the Practicality of Federated Learning: A Survey Towards the Communication Perspective},
author = {Khiem Le and Nhan Luong-Ha and Manh Nguyen-Duc and Danh Le-Phuoc and Cuong Do and Kok-Seng Wong},
journal= {arXiv preprint arXiv:2405.20431},
year = {2024}
}