FedSSO：一种联邦服务器端二阶优化算法
机器学习
2022-08-24 v2 人工智能
最优化与控制
摘要
在这项工作中，我们提出了FedSSO，一种用于联邦学习（FL）的服务器端二阶优化方法。与以往该方向的工作不同，我们采用了一种服务器端近似拟牛顿方法，无需来自客户端的任何训练数据。通过这种方式，我们不仅将计算负担从客户端转移到服务器，还完全消除了客户端与服务器之间用于二阶更新的额外通信。我们为这种新颖方法的收敛性提供了理论保证，并在凸和非凸设置下通过实验证明了其快速收敛和通信节省。
引用
@article{arxiv.2206.09576,
title = {FedSSO: A Federated Server-Side Second-Order Optimization Algorithm},
author = {Xin Ma and Renyi Bao and Jinpeng Jiang and Yang Liu and Arthur Jiang and Jun Yan and Xin Liu and Zhisong Pan},
journal= {arXiv preprint arXiv:2206.09576},
year = {2022}
}