中文

联邦复合鞍点优化

机器学习 2024-09-17 v1 最优化与控制 机器学习

摘要

用于鞍点问题(SPP)的联邦学习(FL)方法近来因其在机器学习(ML)中的关键作用而日益流行。现有工作大多针对欧氏空间中的光滑无约束目标,而 ML 问题常涉及约束或非光滑正则化,这导致对复合优化的需求。针对这些问题,我们提出联邦对偶外推(FeDualEx),一种外步原始-对偶算法,它是此类首个在 FL 范式下同时涵盖鞍点优化与复合目标的方法。收敛性分析与经验评估均证明了 FeDualEx 在这些挑战性设定中的有效性。此外,即便对于 FeDualEx 的串行版本,我们也给出了随机复合鞍点设定的收敛率,据我们所知,先前文献中未见此类结果。

关键词

引用

@article{arxiv.2305.15643,
  title  = {Federated Composite Saddle Point Optimization},
  author = {Site Bai and Brian Bullins},
  journal= {arXiv preprint arXiv:2305.15643},
  year   = {2024}
}