异构数据联邦学习的高效子空间算法
机器学习
2025-09-08 v1 分布式、并行与集群计算
摘要
本工作解决了将联邦学习应用于大规模深度神经网络的关键挑战，特别是由于客户端间数据异构性导致的客户端漂移问题，以及通信、计算和内存的高昂成本。我们提出 FedSub，一种用于异构数据联邦学习的高效子空间算法。具体而言，FedSub 利用子空间投影来保证每个客户端的局部更新在低维子空间内进行，从而降低通信、计算和内存成本。此外，它引入低维对偶变量来缓解客户端漂移。我们提供了收敛性分析，揭示了步长和子空间投影矩阵等关键因素对收敛的影响。实验结果证明了其效率。
引用
@article{arxiv.2509.05213,
title = {An Efficient Subspace Algorithm for Federated Learning on Heterogeneous Data},
author = {Jiaojiao Zhang and Yuqi Xu and Kun Yuan},
journal= {arXiv preprint arXiv:2509.05213},
year = {2025}
}