浮点倒数、除法与平方根的不精确性与修正
数学软件
2024-04-02 v1 硬件体系结构
摘要
浮点运算性能决定了从图形到 AI 等重要应用的整体性能。满足 IEEE-754 浮点规范要求加法、减法、乘法、除法和平方根的最终结果根据用户选择的舍入模式进行正确舍入。令实现者沮丧的一个事实是，即使有更高精度和准确度的中间结果可用，朴素的舍入方法也不会产生正确舍入的结果。相比之下，我们的新颖算法能够修正倒数、除法和平方根的近似值，甚至包括那些精度略低于目标的近似值。在本文中，我们提出了一系列算法，它们既能提高估计值的准确度（以及潜在的精度），又能根据所有二进制 IEEE-754 舍入模式对其进行正确舍入。我们解释了如何在硬件中高效实现它，并且为了完整性，我们提出证明，对于倒数、除法和平方根函数，不需要包含与就近偶数舍入模式相关的等式测试，因为在给定精度下的输入不可能在该精度的可表示浮点数之间有精确的中间答案。事实上，我们更简单的证明有时更强。
引用
@article{arxiv.2404.00387,
title = {Inexactness and Correction of Floating-Point Reciprocal, Division and Square Root},
author = {Lucas M. Dutton and Christopher Kumar Anand and Robert Enenkel and Silvia Melitta Müller},
journal= {arXiv preprint arXiv:2404.00387},
year = {2024}
}