流形优化中严格鞍集渐近逃逸的分析
最优化与控制
2020-06-30 v2 信息论
math.IT
摘要
在本文中，我们利用投影梯度下降 (PGD) 算法对流形优化中严格鞍点的渐近逃逸提供了一些分析。我们的主要贡献之一是将当前分析推广到包含具有复杂几何结构的非孤立且可能连续的鞍点集。我们证明了在鞍点集的几何和分布满足一定条件时，PGD 能够逃逸严格临界子流形。我们还表明，在更弱的假设下，即使鞍点集测度为零且存在一致逃逸方向，PGD 也可能无法逃逸严格鞍点。我们提供了一个反例来说明这一重要观点。我们将该鞍点分析应用于低秩矩阵流形上的相位恢复问题，证明仅存在有限个鞍点，并且它们以高概率为严格鞍点。我们还展示了我们的分析在更广泛流形优化问题中的潜在应用。
引用
@article{arxiv.1911.12518,
title = {Analysis of Asymptotic Escape of Strict Saddle Sets in Manifold Optimization},
author = {Thomas Y. Hou and Zhenzhen Li and Ziyun Zhang},
journal= {arXiv preprint arXiv:1911.12518},
year = {2020}
}