从集中式到去中心化联邦学习：理论洞察、隐私保护与鲁棒性挑战
机器学习
2025-03-11 v1 人工智能
分布式、并行与集群计算
摘要
联邦学习（FL）能够在不直接共享个人原始数据的情况下进行协作学习。FL 可以以集中式（基于服务器）或去中心化（对等）方式实现。在这项综述中，我们提出了一个新颖的视角：集中式联邦学习（CFL）和去中心化联邦学习（DFL）之间的根本区别不仅在于网络拓扑结构，还在于其底层的训练协议：独立聚合与联合优化。我们认为，协议上的这种区别导致了在模型效用、隐私保护以及对攻击的鲁棒性方面的显著差异。我们根据所采用的协议类型系统地回顾并分类了 CFL 和 DFL 的现有工作。这种分类法为先前的研究提供了更深刻的见解，并阐明了各种方法之间的联系或差异。通过我们的分析，发现了文献中的关键空白。特别是，我们观察到尽管基于分布式优化方法的 DFL 方法具有潜在优势，但令人惊讶地缺乏对其的探索。我们强调了这一探索不足的方向，并呼吁在利用分布式优化进行联邦学习方面开展更多研究。总体而言，这项工作提供了从集中式到去中心化 FL 的全面概述，为不同方法之间的核心区别提供了新的见解，并概述了该领域的开放性挑战和未来方向。
引用
@article{arxiv.2503.07505,
title = {From Centralized to Decentralized Federated Learning: Theoretical Insights, Privacy Preservation, and Robustness Challenges},
author = {Qiongxiu Li and Wenrui Yu and Yufei Xia and Jun Pang},
journal= {arXiv preprint arXiv:2503.07505},
year = {2025}
}