对称不动点迭代的加窗Anderson加速的改进收敛因子

Casey Garner; Gilad Lerman; Teng Zhang

对称不动点迭代的加窗Anderson加速的改进收敛因子

数值分析 2025-08-01 v3 数值分析最优化与控制机器学习

作者: Casey Garner , Gilad Lerman , Teng Zhang

摘要

本文研究了常用于不动点方法 $x^{(k+1)}=q(x^{(k)})$ 的加窗 Anderson 加速（AA）算法。它首次证明了当算子 $q$ 为线性且对称时，使用先前迭代滑动窗口的加窗 AA 相比不动点迭代改进了根线性收敛因子。当 $q$ 为非线性但在不动点处具有对称 Jacobian 时，证明了一个稍作修改的 AA 算法具有相对于不动点迭代的类似根线性收敛因子改进。仿真验证了我们的观察。此外，使用不同数据模型的实验表明，对于 Tyler 的 M 估计，AA 显著优于标准不动点方法。

关键词

Anderson加速加窗算法不动点迭代根线性收敛因子对称算子 Tyler的M估计数值仿真

引用

@article{arxiv.2311.02490,
  title  = {Improved Convergence Factor of Windowed Anderson Acceleration for Symmetric Fixed-Point Iterations},
  author = {Casey Garner and Gilad Lerman and Teng Zhang},
  journal= {arXiv preprint arXiv:2311.02490},
  year   = {2025}
}

备注

40 pages, 10 figures

对称不动点迭代的加窗Anderson加速的改进收敛因子

摘要

关键词

引用

备注

相关论文