中文

FedSEA:在联邦在线学习中实现并行化收益

机器学习 2026-04-22 v1 最优化与控制

摘要

联邦在线学习(OFL)已成为一种流行框架,用于在不损害客户端隐私的前提下,对连续数据流进行去中心化决策。然而,标准OFL中假设的对手模型通常排除了并行化的任何潜在收益。此外,它未能充分捕捉OFL问题中不同来源的统计变异。在本文中,我们通过集成随机扩展对手(SEA)来扩展OFL范式。在此框架下,损失函数在整个时间范围内保持固定,但对手动态且独立地为每个客户端在每个时间点选择数据分布。我们提出了\algoOFL{}算法来解决该问题,该算法在客户端使用在线随机梯度下降,并通过服务器进行定期全局聚合。我们对时间范围内的全局网络后悔量设定了上界,其中两种函数类的上界:(1)对于光滑和凸损失,我们证明了O(√T)界限,(2)对于光滑和强凸损失,我们证明了O(log T)界限。通过严谨的分析,我们量化了空间(跨客户端)和时间(随时间)数据异质性对后悔界限的单个影响。因此,我们识别出轻微的时间变异(相对于随机梯度方差)的 regime,在该 regime下,网络后悔随并行化而改善。因此,在SEA设置下,我们的结果改进了现有在线联邦学习中悲观的极端情况最坏结果。

关键词

引用

@article{arxiv.2604.19336,
  title  = {FedSEA: Achieving Benefit of Parallelization in Federated Online Learning},
  author = {Harekrushna Sahu and Pratik Jawanpuria and Pranay Sharma},
  journal= {arXiv preprint arXiv:2604.19336},
  year   = {2026}
}