中文

低秩单变量平方和无伪局部极小值

最优化与控制 2023-10-03 v2 数值分析 代数几何 数值分析

摘要

我们研究通过将多项式 pp 分解为 rr 个平方和来最小化二次罚目标 fp(u)=i=1rui2p2f_p(\mathbf{u}) = \left\lVert \sum_{i=1}^r u_i^2 - p\right\lVert^2 的问题。该目标非凸,且等价于编码平方和分解的半定规划(SDP)的秩-rr Burer-Monteiro 分解。我们证明对所有单变量多项式 pp,若 r2r \ge 2fp(u)f_p(\mathbf{u}) 无伪二阶临界点,表明所有局部最优也是全局最优。这与先前工作形成对比,先前工作表明对于一般 SDP,除通用性条件外,rr 须约为约束数(即 pp 的次数)的平方根才无伪二阶临界点。我们的证明使用计算代数几何工具,并可解释为利用一阶和二阶必要条件构造证书。我们还表明,通过选择基于圆上等间距点采样的范数,梯度 fp\nabla f_p 可使用快速傅里叶变换在近乎线性时间内计算。我们通过实验证明,使用 L-BFGS 等一阶优化算法,该方法具有非常快的收敛速度,并对百万次多项式呈近线性扩展。

关键词

引用

@article{arxiv.2205.11466,
  title  = {Low-Rank Univariate Sum of Squares Has No Spurious Local Minima},
  author = {Benoît Legat and Chenyang Yuan and Pablo A. Parrilo},
  journal= {arXiv preprint arXiv:2205.11466},
  year   = {2023}
}

备注

18 pages, to appear in SIAM Journal on Optimization