仿射-二次情况下的加速 Proximal 梯度方法：强收敛与极限识别
最优化与控制
2025-11-11 v1 泛函分析
摘要
Bot-Fadili-Nguyen (arXiv:2510.22715) 和 Jang-Ryu (arXiv:2510.23513) 最近的工作解决了加速（proximal）梯度方法中迭代收敛问题的长期存在。具体而言，Bot-Fadili-Nguyen 证明了离散加速梯度下降 (AGD) 迭代的弱收敛，关键地，AGD 方法在复合设置下收敛，并扩展到无限维希尔伯特空间。并行地，Jang-Ryu 在有限维中建立了连续加速流和离散 AGD 的点收敛。这些结果仍留开了一个问题：迭代会选择哪个最小化器。我们在仿射-二次设置中给出答案：当初始化于相同点时，proximal 梯度 (PGM) 和 APG 迭代之间的差异在弱意义下收敛于零。因此，APG 在弱意义下收敛于初始点在解集中最佳近似。此外，在参数序列的 mild 假设下，我们获得 APG 的强收敛。该结果是紧密的：一个二维例子表明，APG 与 PGM 极限的一致性是特定于仿射-二次范畴的，不会在一般情况下成立。
引用
@article{arxiv.2511.06560,
title = {Accelerated Proximal Gradient Methods in the affine-quadratic case: Strong convergence and limit identification},
author = {Walaa M. Moursi and Andrew Naguib and Viktor Pavlovic and Stephen A. Vavasis},
journal= {arXiv preprint arXiv:2511.06560},
year = {2025}
}