一种具有收敛保证的随机寻找鞍点算法
数值分析
2025-10-17 v1 数值分析
摘要
鞍点提供了能量景观的分层视图,揭示了转移路径和相互关联的吸引子范畴,为理解底层系统的全局结构、稳定性以及可能的集体机制提供了洞见。本文提出一种随机鞍点搜索算法,以规避传统和确定性鞍点动力学中对精确导数和 Hessian 评估的要求。在每一次迭代中,该算法基于随机 Hessian 使用随机特征向量搜索方法来逼近不稳定方向,然后通过在近似不稳定方向上的反射随机梯度更新,以前进至鞍点。我们进行严格的数值分析,建立随机特征向量搜索的几乎必然收敛性,并为鞍点搜索证明局部几乎必然收敛具有 收敛率,同时提出理论保证,确保在初始点足够接近时,鞍点能够以高概率被识别。数值实验,包括应用于神经网络损失景观和范德-德-戈纳类型液晶模型,表明该方法在实际中具有可行性,能够帮助算法摆脱“差异”区域。
引用
@article{arxiv.2510.14144,
title = {A Stochastic Algorithm for Searching Saddle Points with Convergence Guarantee},
author = {Baoming Shi and Lei Zhang and Qiang Du},
journal= {arXiv preprint arXiv:2510.14144},
year = {2025}
}