联邦 minimax 优化中基于局部更新的快速去中心化梯度跟踪
机器学习
2024-05-09 v1 分布式、并行与集群计算
机器学习
摘要
联邦学习 (FL) 作为一种在分布节点/客户端之间训练模型的强大范式，能够在保持数据隐私和数据异构性鲁棒性的同时实现模型训练。本文提出了一种新的去中心化联邦 minimax 优化算法 \texttt{K-GT-Minimax}，该算法结合了局部更新和梯度跟踪技术。我们的分析展示了该算法在非凸-强凹 (NC-SC) minimax 优化中的通信效率和收敛速率，显示出比现有方法更优的收敛速率。\texttt{K-GT-Minimax}处理数据异构性并确保鲁棒性，凸显了其在推动联邦学习研究和应用方面的重要性。
关键词
引用
@article{arxiv.2405.04566,
title = {Fast Decentralized Gradient Tracking for Federated Minimax Optimization with Local Updates},
author = {Chris Junchi Li},
journal= {arXiv preprint arXiv:2405.04566},
year = {2024}
}