在有界秩矩阵上寻找驻点:几何障碍与平滑补救
最优化与控制
2022-07-11 v3 数值分析
数值分析
摘要
我们考虑在具有有界秩矩阵簇上最小化光滑函数时可证明地寻找驻点的问题。这被证明出乎意料地微妙。我们将困难追溯到一个几何障碍:在非光滑集合上,可能存在点序列,沿其标准驻性度量趋于零,但极限点并非驻点。我们将此类事件命名为 apocalypses(末日现象),因为它们可导致优化算法收敛到非驻点。我们针对现有有界秩矩阵优化算法明确展示了这一点。为可证明地寻找驻点,我们修改了在该簇标准光滑参数化上的信赖域方法。该方法依赖于一个已知事实:参数空间上的二阶驻点映射到簇上的驻点。我们的几何观察与所提算法可推广至有界秩矩阵之外。我们给出了一般约束集上 apocalypses 的几何刻画,表明 Clarke 正则集不容许 apocalypses。此类集合包括光滑流形、带边流形和凸集。我们的信赖域方法支持由任意完备黎曼流形进行参数化。
引用
@article{arxiv.2107.03877,
title = {Finding stationary points on bounded-rank matrices: A geometric hurdle and a smooth remedy},
author = {Eitan Levin and Joe Kileel and Nicolas Boumal},
journal= {arXiv preprint arXiv:2107.03877},
year = {2022}
}
备注
The arXiv version contains a few details omitted in the published version Math. Program. (2022)