多面体集合中坐标下降法的渐近收敛速率
最优化与控制
2015-09-18 v1
摘要
我们考虑一类基于沿单个坐标方向进行投影梯度下降的并行约束优化方法。在多面体可行集的情况下，向正则解的局部收敛在约化空间中无约束地进行，从而允许通过灵敏度分析计算紧致的渐近收敛速率，即使在全剧收敛速率不可用或过于保守时亦然。我们推导了多面体中坐标下降法各变体的线性渐近收敛速率，包括循环、同步和随机实现模式。我们的结果可应用于随机优化，以及近期提出的基于 Newton 步的 Taylor 近似的优化算法。
引用
@article{arxiv.1509.05125,
title = {Asymptotic convergence rates for coordinate descent in polyhedral sets},
author = {Olivier Bilenne},
journal= {arXiv preprint arXiv:1509.05125},
year = {2015}
}
备注
20 pages. A version of this paper will be submitted for publication