资源高效的联邦学习
机器学习
2022-11-07 v2 分布式、并行与集群计算
摘要
联邦学习（FL）使学习者能够利用本地数据进行分布式训练，从而增强隐私并减少通信。然而，随着部署规模扩大，它在数据分布、设备能力与参与者可用性的异构性方面带来众多挑战，这会影响模型收敛与偏差。现有FL方案使用随机参与者选择以改善公平性；但这会导致资源使用低效与训练质量下降。在本工作中，我们系统性地解决FL中资源效率的问题，展示智能参与者选择以及纳入掉队参与者更新的益处。我们论证了这些因素如何在实现资源效率的同时也提升训练模型的质量。
引用
@article{arxiv.2111.01108,
title = {Resource-Efficient Federated Learning},
author = {Ahmed M. Abdelmoniem and Atal Narayan Sahu and Marco Canini and Suhaib A. Fahmy},
journal= {arXiv preprint arXiv:2111.01108},
year = {2022}
}
备注
Accepted to appear in ACM EuroSys 2023