中文

联邦学习系统设计的体系结构模式

机器学习 2021-06-21 v3 分布式、并行与集群计算 软件工程

摘要

联邦学习因应对机器学习中数据饥渴与隐私挑战,已从学术界与工业界获得快速增长关注。联邦学习系统可视为一个大规模分布式系统,在众多客户端设备参与联邦学习时涉及不同组件与利益相关方。设计联邦学习系统除机器学习知识外还需软件系统设计思维。尽管从机器学习技术方面对联邦学习投入甚多,构建联邦学习系统中的软件体系结构设计关切却被大幅忽视。因此,本文呈现一组体系结构模式以应对联邦学习系统的设计挑战。体系结构模式给出软件体系结构设计中对给定上下文中常见问题的可复用解。所呈模式基于系统性文献综述结果,包含三种客户端管理模式、四种模型管理模式、三种模型训练模式与四种模型聚合模式。这些模式关联于联邦学习模型生命周期中的特定状态转移,可作为联邦学习系统设计中对模式有效使用的指引。

关键词

引用

@article{arxiv.2101.02373,
  title  = {Architectural Patterns for the Design of Federated Learning Systems},
  author = {Sin Kit Lo and Qinghua Lu and Liming Zhu and Hye-young Paik and Xiwei Xu and Chen Wang},
  journal= {arXiv preprint arXiv:2101.02373},
  year   = {2021}
}

备注

Resubmitted after minor revision to Elsevier's Journal of Systems and Software, Special issue on Software Architecture and Artificial Intelligence