层次化联邦 ADMM
机器学习
2024-09-30 v1 人工智能
分布式、并行与集群计算
信息论
系统与控制
系统与控制
math.IT
摘要
本文脱离了广泛使用的基于梯度下降的层次化联邦学习（FL）算法，开发了一种基于交替方向乘子法（ADMM）的新型层次化 FL 框架。在该框架内，我们提出了两种新型 FL 算法，它们均在顶层使用 ADMM：一种在底层采用 ADMM，另一种则使用传统的基于梯度下降的方法。所提出的框架增强了隐私性，实验表明，在学习收敛性和准确性方面，所提算法优于传统算法。此外，即使本地步数非常有限，底层的梯度下降也能表现良好，而在其他情况下，两层均采用 ADMM 会带来更好的性能。
引用
@article{arxiv.2409.18796,
title = {Hierarchical Federated ADMM},
author = {Seyed Mohammad Azimi-Abarghouyi and Nicola Bastianello and Karl H. Johansson and Viktoria Fodor},
journal= {arXiv preprint arXiv:2409.18796},
year = {2024}
}