求解半定规划的黎曼朗之万算法
机器学习
2023-06-21 v6 机器学习
最优化与控制
摘要
我们提出一种基于朗之万扩散的算法,用于在球面乘积流形上进行非凸优化与采样。在对数 Sobolev 不等式下,我们建立了有限次迭代收敛到 Gibbs 分布的 KL 散度保证。我们证明在恰当的温度选择下,到全局最小值次优间隙以高概率被保证为任意小。作为一个应用,我们考虑用于求解带对角约束半定规划(SDP)的 Burer–Monteiro 方法,并分析所提朗之万算法对该非凸目标的优化。特别地,我们在无伪局部极小但存在鞍点的情况下为 Burer–Monteiro 问题建立对数 Sobolev 不等式。结合上述结果,我们进而为 SDP 与 Max-Cut 问题提供全局最优性保证。更确切地说,我们证明朗之万算法以高概率在 次迭代内达到 精度。
引用
@article{arxiv.2010.11176,
title = {Riemannian Langevin Algorithm for Solving Semidefinite Programs},
author = {Mufan Bill Li and Murat A. Erdogdu},
journal= {arXiv preprint arXiv:2010.11176},
year = {2023}
}