中文

求解半定规划的黎曼朗之万算法

机器学习 2023-06-21 v6 机器学习 最优化与控制

摘要

我们提出一种基于朗之万扩散的算法,用于在球面乘积流形上进行非凸优化与采样。在对数 Sobolev 不等式下,我们建立了有限次迭代收敛到 Gibbs 分布的 KL 散度保证。我们证明在恰当的温度选择下,到全局最小值次优间隙以高概率被保证为任意小。作为一个应用,我们考虑用于求解带对角约束半定规划(SDP)的 Burer–Monteiro 方法,并分析所提朗之万算法对该非凸目标的优化。特别地,我们在无伪局部极小但存在鞍点的情况下为 Burer–Monteiro 问题建立对数 Sobolev 不等式。结合上述结果,我们进而为 SDP 与 Max-Cut 问题提供全局最优性保证。更确切地说,我们证明朗之万算法以高概率在 Ω~(ϵ5)\widetilde{\Omega}( \epsilon^{-5} ) 次迭代内达到 ϵ\epsilon 精度。

关键词

引用

@article{arxiv.2010.11176,
  title  = {Riemannian Langevin Algorithm for Solving Semidefinite Programs},
  author = {Mufan Bill Li and Murat A. Erdogdu},
  journal= {arXiv preprint arXiv:2010.11176},
  year   = {2023}
}