强凸优化的交替最小化方法
最优化与控制
2020-06-30 v2
摘要
我们考虑用于变量划分为多个块、每一块相对于其变量在冻结其他变量块时易于最小化的凸优化问题的交替最小化过程。在两块情形下,我们证明了在 Polyak-Lojasiewicz 条件下交替最小化过程的线性收敛速率,该条件可视为强凸性假设的松弛。在多块设置的强凸性假设下,我们给出了一种加速交替最小化过程,其线性速率依赖于条件数的平方根,而非加速方法的条件数。我们还提及用 与 之间 Kullback-Leibler(KL)散度的交替最小化来近似线性方程组 的非负解。
引用
@article{arxiv.1911.08987,
title = {Alternating Minimization Methods for Strongly Convex Optimization},
author = {Nazarii Tupitsa and Pavel Dvurechensky and Alexander Gasnikov and Sergey Guminov},
journal= {arXiv preprint arXiv:1911.08987},
year = {2020}
}
备注
1 figures