去中心化联邦学习:基础、前沿、框架、趋势与挑战
机器学习
2023-09-19 v5 密码学与安全
分布式、并行与集群计算
网络与互联网体系结构
摘要
近年来,联邦学习(FL)在不共享敏感数据的情况下训练协作模型方面获得了关注。自诞生以来,中心化联邦学习(CFL)一直是文献中最常见的方法,其中中央实体创建全局模型。然而,中心化方法由于瓶颈导致延迟增加、对系统故障的脆弱性加剧,以及影响负责全局模型创建的实体的可信度问题。去中心化联邦学习(DFL)通过促进去中心化模型聚合并最小化对中心化架构的依赖来解决这些问题。然而,尽管在 DFL 方面已有工作,文献尚未(i)研究区分 DFL 与 CFL 的主要方面;(ii)分析用于创建和评估新解决方案的 DFL 框架;以及(iii)回顾使用 DFL 的应用场景。因此,本文从联邦架构、拓扑、通信机制、安全方法和关键性能指标方面识别并分析了 DFL 的主要基础。此外,本文探讨了优化关键 DFL 基础的现有机制。然后,回顾并比较了当前 DFL 框架的最相关特征。之后,分析了最常用 DFL 应用场景,基于先前定义的基础和框架识别解决方案。最后,研究了现有 DFL 解决方案的演进,以提供趋势、经验教训和开放挑战的列表。
引用
@article{arxiv.2211.08413,
title = {Decentralized Federated Learning: Fundamentals, State of the Art, Frameworks, Trends, and Challenges},
author = {Enrique Tomás Martínez Beltrán and Mario Quiles Pérez and Pedro Miguel Sánchez Sánchez and Sergio López Bernal and Gérôme Bovet and Manuel Gil Pérez and Gregorio Martínez Pérez and Alberto Huertas Celdrán},
journal= {arXiv preprint arXiv:2211.08413},
year = {2023}
}