Ozaki Scheme II 快速模式的改进缩放

Ozaki scheme II 基于中国剩余定理（CRT），利用低精度整数矩阵运算来模拟高精度矩阵乘法。它首先对高精度矩阵进行缩放以将其转换为整数矩阵。对于此缩放步骤，Ozaki scheme II 提供了两种模式：精确模式，使用 INT8 矩阵乘法来估计缩放因子；以及快速模式，以较低的计算成本应用 Cauchy--Schwarz 不等式。我们表明现有公式缺乏尺度不变性；将输入矩阵乘以一个常数会改变缩放步骤中整数矩阵的有效位宽，导致精度下降或 CRT 恢复失败。为了解决这个问题，我们提出了一种通过 Cauchy--Schwarz 不等式从 CRT 唯一性条件导出的修正缩放公式。所提出的公式在构造上是尺度不变的，保证 CRT 唯一性条件始终得到满足，并且在原始快速模式的基础上不引入额外开销。在 NVIDIA GH200 GPU 上的实验表明，所提出的方法实现了与精确模式相当的精度，同时保持了与快速模式相当的吞吐量。在精度-吞吐量权衡方面，所提出的方法克服了快速模式的精度限制和精确模式的吞吐量约束，提供了卓越的精度和性能。