黎曼流形上最小化 $C^2$ 函数的黎曼 Anderson 混合方法
最优化与控制
2023-09-13 v2
摘要
Anderson 混合 (AM) 方法是一种通过利用先前步骤的历史信息来加速不动点迭代的流行方法。在本文中，我们引入黎曼 Anderson 混合 (RAM) 方法，作为 AM 在黎曼流形上的推广，并在合理假设下分析其局部线性收敛性。与黎曼流形上其他基于外推的算法不同，RAM 不需要计算逆回缩或逆指数映射，并且每次迭代的计算代价更低。此外，我们提出 RAM 的一个变体，称为正则化 RAM (RRAM)，其建立了全局收敛性并展现出与 RAM 相似的局部收敛性质。我们的证明依赖于基于黎曼流形局部几何的精细误差估计。最后，我们在各种流形优化问题上给出了实验结果，表明我们所提方法相对于现有的黎曼梯度下降和 LBFGS 方法具有更优的性能。
引用
@article{arxiv.2309.04091,
title = {Riemannian Anderson Mixing Methods for Minimizing $C^2$-Functions on Riemannian Manifolds},
author = {Zanyu Li and Chenglong Bao},
journal= {arXiv preprint arXiv:2309.04091},
year = {2023}
}