Riemannian 流形与 Hilbert 空间上的广义最陡下降方法：收敛性分析与随机扩展
最优化与控制
2025-02-28 v1 泛函分析
摘要
优化技术是许多科学和工程领域的核心。最陰下降方法在这一领域发挥着基础性作用。本文研究了在Riemannian流形上进行的广义最陰下降方法，利用流形的几何结构将优化技术扩展到欧几里得空间之外。研究了在广义光滑条件下的最陰下降方法的收敛性分析，并提供了说明性例子。我们还探讨了在无限维Hilbert空间中的自适应最陰下降带动量，关注步长自适应、动量衰减与弱收敛性之间的相互作用。此外，我们达到了收敛精度为O(1/k^2)。最后研究了在非高斯噪声下的随机最陰下降，其中较高阶矩取代高斯假设，导致保证收敛，并通过一个例子进行了说明。
引用
@article{arxiv.2502.19929,
title = {Generalized Steepest Descent Methods on Riemannian Manifolds and Hilbert Spaces: Convergence Analysis and Stochastic Extensions},
author = {Rashid A. and Amal A Samad},
journal= {arXiv preprint arXiv:2502.19929},
year = {2025}
}