投影梯度下降法收敛于 Bouligand 驻点
最优化与控制
2025-07-01 v3 数值分析
数值分析
摘要
本文考虑了在欧几里得向量空间的非空闭子集上最小化连续可微函数的投影梯度下降 (PGD) 算法。在没有进一步假设的情况下，该问题是难解的，算法仅被期望找到一个驻点。PGD 在集合中生成一个序列，其聚点已知为 Mordukhovich 驻点。在本文中，证明了这些聚点是 Bouligand 驻点，如果梯度是局部 Lipschitz 连续的，则甚至是近端驻点。对于所考虑的问题，这些是最强的可期望的驻点性质。
引用
@article{arxiv.2403.02530,
title = {Projected gradient descent accumulates at Bouligand stationary points},
author = {Guillaume Olikier and Irène Waldspurger},
journal= {arXiv preprint arXiv:2403.02530},
year = {2025}
}