中文

FS-Real:面向真实世界跨设备联邦学习

机器学习 2023-03-24 v1

摘要

联邦学习(FL)旨在与分布式客户端协作训练高质量模型而不上传其本地数据,这在学术界和工业界吸引了越来越多的关注。然而,繁荣的FL研究与真实世界场景之间仍存在显著差距,主要由异构设备的特征及其规模所导致。大多数现有工作在同质设备上评估,与真实世界场景中异构设备的多样性和变异性不匹配。此外,由于资源有限和软件栈复杂,以异构设备大规模开展研发具有挑战性。这两个关键因素在FL研究中重要却未被充分探索,因为它们直接影响FL训练动态与最终性能,使FL算法的有效性和可用性不明确。为弥合差距,本文提出一种高效且可扩展的真实世界跨设备FL原型系统FS-Real。它支持异构设备运行时,包含并行与鲁棒性增强的FL服务器,并为个性化、通信压缩和异步聚合等高级FL实用特性提供实现与可扩展性。为展示FS-Real的可用性与效率,我们开展了涵盖多种设备分布的广泛实验,量化并分析了异构设备与不同规模的影响,并进一步提供关于真实世界FL场景的见解与开放讨论。我们的系统已发布,以帮助铺平涉及多样设备与规模的进一步真实世界FL研究和广泛应用之路。

关键词

引用

@article{arxiv.2303.13363,
  title  = {FS-Real: Towards Real-World Cross-Device Federated Learning},
  author = {Daoyuan Chen and Dawei Gao and Yuexiang Xie and Xuchen Pan and Zitao Li and Yaliang Li and Bolin Ding and Jingren Zhou},
  journal= {arXiv preprint arXiv:2303.13363},
  year   = {2023}
}