中文

FedEL:面向异构设备的联邦弹性学习

机器学习 2025-09-23 v1 人工智能

摘要

联邦学习(FL)使分布式设备能够在保持数据隐私的前提下协同训练机器学习模型。然而,设备的异构硬件能力常导致显著的训练延迟,因资源受限的“慢客户端”延长聚合过程。现有解决方案如客户端选择、异步 FL 和局部训练虽部分缓解此问题,但因训练贡献不一致,仍面临准确率下降、更新陈旧化以及模型性能受损等问题。为突破这些限制,我们提出 FedEL——一种联邦弹性学习框架,通过窗口化训练过程实现训练效率提升,同时维持模型准确率。FedEL 引入新颖的窗口机制,在协调运行预算内动态定位模型训练区域并选择重要张量进行训练。该方法确保所有客户端(包括慢客户端)的渐进式平衡训练。此外,FedEL 采用张量重要性调整模块,协调局部与全局张量重要性,以减轻数据异构性引起的偏差。实验结果表明,FedEL 在保持或超越基线最终测试准确率的同时,实现了最高 3.87 倍的时间到准确率提升。

关键词

引用

@article{arxiv.2509.16902,
  title  = {FedEL: Federated Elastic Learning for Heterogeneous Devices},
  author = {Letian Zhang and Bo Chen and Jieming Bian and Lei Wang and Jie Xu},
  journal= {arXiv preprint arXiv:2509.16902},
  year   = {2025}
}