联邦学习的进展:模型、方法与隐私
人工智能
2023-03-07 v2 计算与语言
摘要
联邦学习(FL)是一种有望解决日益突出的隐私与安全问题的技术。其核心要素是在不上传任何敏感数据的情况下,于分布式客户端之间协作学习模型。本文对相关工作进行了透彻的综述,遵循发展脉络,并从理论与实践的视角深入挖掘 FL 背后的关键技术。具体而言,我们首先基于 FL 系统的网络拓扑对现有 FL 架构工作进行分类,并给出详细分析与总结。接着,我们抽象出当前应用问题,总结通用技术,并将应用问题框定为 FL 基模型的通用范式。此外,我们提供了通过 FL 进行模型训练的所提解决方案。我们总结并分析了现有的 FedOpt 算法,深入揭示了众多一阶算法的算法发展原理,提出了更具通用性的算法设计框架。基于这些框架,我们实例化了 FedOpt 算法。由于隐私与安全是 FL 的基本要求,我们给出了现有的攻击场景与防御方法。据我们所知,我们是首批综述理论方法并提出自身策略的团队之一,因为极少有工作对理论方法进行调研。本综述旨在推动高性能、隐私保护且安全的方法的发展,以将 FL 集成到现实应用中。
引用
@article{arxiv.2302.11466,
title = {Advancements in Federated Learning: Models, Methods, and Privacy},
author = {Huiming Chen and Huandong Wang and Qingyue Long and Depeng Jin and Yong Li},
journal= {arXiv preprint arXiv:2302.11466},
year = {2023}
}
备注
35 pages, submitted to ACM Computing Surveys