一种自适应混合精度与动态缩放预条件共轭梯度算法
数值分析
2025-05-08 v1 数值分析
摘要
我们提出了一种自适应混合精度与动态缩放预条件共轭梯度算法 (AMP-PCG)。该算法动态调整存储向量和计算的精度，在适当时利用低精度，同时保持与双精度 PCG 相当的收敛速度和精度。我们的混合精度策略包含三个主要组成部分：(1) 残差和矩阵-向量乘积最初以双精度计算，算法根据选定的收敛容差和残差间隙的估计值将其切换为单精度。(2) 根据特征值分布，预条件残差和搜索方向要么在整个迭代过程中保持半精度，要么最初为双精度，然后逐步降低为单精度和半精度。(3) 每次迭代都使用动态缩放的残差，以缓解半精度下的下溢。我们为估计值提供了理论支持，并通过数值实验证明了 AMP-PCG 的有效性，突显了其在 GPU 上相比双精度 PCG 所实现的稳健性和显著的性能提升（1.63 倍加速）。
引用
@article{arxiv.2505.04155,
title = {An Adaptive Mixed Precision and Dynamically Scaled Preconditioned Conjugate Gradient Algorithm},
author = {Yichen Guo and Eric de Sturler and Tim Warburton},
journal= {arXiv preprint arXiv:2505.04155},
year = {2025}
}