平滑分析用于光滑半定规划的低秩方法
机器学习
2018-11-29 v2 机器学习
最优化与控制
摘要
我们考虑大小为 n 且带等式约束的半定规划(SDPs)。为克服可扩展性问题,Burer 和 Monteiro 提出了一种基于优化大小为 乘 的矩阵 Y 的分解方法,使得 为 SDP 变量。该形式的优点有二:优化变量的维数降低,且正半定性自然得到满足。然而,关于 Y 的问题是非凸的。在先前工作中已表明,当对分解变量的约束正则地定义一个光滑流形时,只要 k 足够大,对几乎所有代价矩阵,所有二阶驻点(SOSPs)均为最优。重要的是,在实践中只能计算出近似满足必要性最优条件的点,由此引出问题:此类点是否也近似最优?为此,在类似假设下,我们使用平滑分析表明,对于随机扰动目标函数的近似 SOSPs 是近似全局最优的,其中 k 的尺度约为约束数平方根(至多相差对数因子)。此外,我们给出了扰动问题近似解相对于原问题的最优性间隙界。我们将结果具体应用于相位恢复的一种 SDP 松弛。
引用
@article{arxiv.1806.03763,
title = {Smoothed analysis of the low-rank approach for smooth semidefinite programs},
author = {Thomas Pumir and Samy Jelassi and Nicolas Boumal},
journal= {arXiv preprint arXiv:1806.03763},
year = {2018}
}