黎曼流形上的联邦学习
机器学习
2022-06-14 v1 最优化与控制
摘要
联邦学习(FL)已在基于智能手机应用的机器学习应用中发现许多重要用途。尽管已研究了许多 FL 算法,但据我们所知,带有非凸约束的 FL 算法尚未被研究。本文研究黎曼流形上的 FL,其在联邦 PCA 和联邦 kPCA 等方面有重要应用。我们提出一种黎曼联邦 SVRG(RFedSVRG)方法来求解黎曼流形上的联邦优化。我们分析了其在不同场景下的收敛速率。通过数值实验将 RFedSVRG 与 FedAvg 和 FedProx 的黎曼对应版本进行比较。我们从数值实验中观察到 RFedSVRG 的优势是显著的。
引用
@article{arxiv.2206.05668,
title = {Federated Learning on Riemannian Manifolds},
author = {Jiaxiang Li and Shiqian Ma},
journal= {arXiv preprint arXiv:2206.05668},
year = {2022}
}