关于贪婪随机Kaczmarz方法的收敛性分析
数值分析
2023-11-15 v2 数值分析
摘要
本文中，我们分析Bai与Wu (SIAM J. Sci. Comput., 40(1):A592--A606, 2018)提出的用于求解线性系统的贪婪随机Kaczmarz(GRK)方法。我们发展更精确的贪婪概率准则以从系数矩阵中有效选取工作行。值得注意的是，我们证明GRK方法的线性收敛是确定性的，并表明使用更紧的阈值参数可带来更快的收敛速率。我们的结果修正了现有仅基于期望误差的收敛分析，通过认识到GRK方法的迭代量是随机变量。因此，我们获得GRK方法改进的迭代复杂度。此外，引入Polyak重球动量技术以提升GRK方法性能。相较于Loizou与Richtárik (Comput. Optim. Appl., 77(3):653--710, 2020)所用的技术，我们提出对随机迭代方法动量变体的精炼收敛分析，表明所提带动量的GRK方法(mGRK)同样具有确定性线性收敛。数值实验显示mGRK方法比GRK方法更高效。
关键词
引用
@article{arxiv.2307.01988,
title = {On the convergence analysis of the greedy randomized Kaczmarz method},
author = {Yansheng Su and Deren Han and Yun Zeng and Jiaxin Xie},
journal= {arXiv preprint arXiv:2307.01988},
year = {2023}
}