面向对称特征值问题与奇异值分解的高性能部分谱计算
摘要
当前稠密对称特征值（EIG）和奇异值分解（SVD）实现可能分别在三对角化和双对角化过程中受限于并发性不足。由于二级 BLAS（Level-2 BLAS）访存受限调用，这种性能瓶颈在双侧变换中十分典型。因此，当前最先进的 EIG 和 SVD 实现可能仅达到系统持续峰值性能的一小部分。基于 QR 的动态加权 Halley（QDWH）算法可用作 EIG 和 SVD 求解器的预处理步骤，同时缓解上述瓶颈。QDWH-EIG 和 QDWH-SVD 暴露更多并行性，同时依赖计算受限的矩阵运算。两者运行更接近系统的持续峰值性能，但代价是比标准 EIG 和 SVD 算法执行更多 FLOPS。本文中，我们引入一种新的基于 QDWH 的求解器，用于计算 EIG（QDWHpartial-EIG）和 SVD（QDWHpartial-SVD）问题的部分谱。通过仅对谱中所需部分优化算法背后的有理函数，QDWHpartial-EIG 和 QDWHpartial-SVD 算法高效计算相应谱的一小部分（例如 1-20%）。我们在分布式内存系统上开发了 QDWHpartial-EIG 和 QDWHpartial-SVD 的高性能实现，并证明了其数值鲁棒性。使用多达 36K 个 MPI 进程的实验结果表明，QDWHpartial-SVD 相比 ScaLAPACK 中的 PDGESVD 和 KSVD 分别实现了高达 6 倍和 2 倍的性能加速。QDWHpartial-EIG 相比 ScaLAPACK 中的 PDSYEVD 最高快 3.5 倍，但相比 ELPA 仍较慢。然而，QDWHpartial-EIG 通过提取比 ELPA 更高的持续峰值性能，实现了对底层硬件更好的占用率，这对于基于加速器的超级计算机而言至关重要。
引用
@article{arxiv.2104.14186,
title = {High-Performance Partial Spectrum Computation for Symmetric eigenvalue problems and the SVD},
author = {D. Keyes and H. Ltaief and Y. Nakatsukasa and D. Sukkari},
journal= {arXiv preprint arXiv:2104.14186},
year = {2021}
}