一种数值稳定的避免通信 s-step GMRES 算法
数值分析
2024-07-29 v3 数值分析
摘要
Krylov 子空间方法在科学计算中广泛用于处理大规模线性系统。然而,这些迭代 Krylov 求解器在现代超级计算机上的性能受限于昂贵的通信开销。s-step 策略一次生成一系列 s 个 Krylov 向量以避免通信。渐近地,s-step 方法可将通信延迟降低 s 倍。不幸的是,由于有限精度实现,为保持稳定性步长必须保持较小。本工作中,我们解决 s-step GMRES 算法中遇到的数值不稳定性。通过选取适当的多项式基与块正交化方案,我们构造了一种避免通信的 s-step GMRES 算法,可自动选择最优步长以确保数值稳定性。为进一步最大化通信节省,我们引入缩放 Newton 多项式,可将许多问题的步长 s 增至数百。我们还开发了初始步长估计器以高效选取稳定性最优步长。所提算法的稳定性保证通过数值实验得以展示。在此过程中,我们还评估了多项式与预条件的选择如何影响算法的稳定性极限。最后,我们在分布式内存环境下于超过 114,000 核上展示了并行可扩展性。在强缩放与弱缩放研究中均观察到完美的线性缩放,且通信开销可忽略。
引用
@article{arxiv.2303.08953,
title = {A numerically stable communication-avoiding s-step GMRES algorithm},
author = {Zan Xu and Juan J. Alonso and Eric Darve},
journal= {arXiv preprint arXiv:2303.08953},
year = {2024}
}
备注
36 pages, 15 figures