具有不同强凸与强凹常数的分散式鞍点问题
最优化与控制
2022-10-04 v2
摘要
大规模鞍点问题出现在诸如 GANs 和带仿射约束的线性模型等机器学习任务中。在本文中，我们研究具有强凸-强凹光滑目标的分布式鞍点问题（SPP），其复合项（对应于极小和极大变量）以及双线性鞍点部分具有不同的强凸和强凹参数。我们考虑两类一阶预言机：确定性（返回梯度）和随机性（返回无偏随机梯度）。我们的方法在两种情形下均适用，并在预言机调用之间进行若干次共识步骤。
引用
@article{arxiv.2206.00090,
title = {Decentralized Saddle-Point Problems with Different Constants of Strong Convexity and Strong Concavity},
author = {Dmitriy Metelev and Alexander Rogozin and Alexander Gasnikov and Dmitry Kovalev},
journal= {arXiv preprint arXiv:2206.00090},
year = {2022}
}