GPU 上 GMRES 的混合精度策略研究

由于更低的功耗、减少的数据传输和提升的计算性能，加速器硬件对低精度计算的支持正变得越来越普遍。然而，计算科学与工程 (CSE) 问题在多个领域需要双精度准确性。如果我们想在满足精度要求的同时充分利用硬件潜力，硬件趋势与应用需求之间的这种冲突导致了对线性代数算法层面混合精度策略的需求。在本文中，我们关注预条件稀疏迭代线性求解器，这是多个 CSE 应用中的关键内核。我们展示了一项在配备 Power 9 CPU 的 NVIDIA V$100$ GPU 上加速该内核的混合精度策略研究。我们寻找将多种精度整合到 GMRES 线性求解器中的最佳方法；这些方法包括迭代精化和可并行化预条件器。我们的工作提出了确定混合精度 GMRES 何时有效的策略，以及为混合精度迭代精化求解器选择参数以获得更好性能的策略。我们使用基于 Trilinos 库的实现，并采用 Kokkos Kernels 以实现线性代数内核的性能可移植性。性能结果展示了混合精度方法的前景，并表明通过优化底层内核可以实现进一步的改进。