中文

利用魔法常数的平方根倒数快速计算 $-$ 解析方法

数学软件 2016-03-16 v1

摘要

我们提出了一种针对单精度浮点数平方根倒数快速计算中所用变换的数学分析。所谓魔法常数的最优值以系统的方式导出,从而在该算法后续阶段最小化绝对或相对误差。

关键词

引用

@article{arxiv.1603.04483,
  title  = {Fast calculation of inverse square root with the use of magic constant $-$ analytical approach},
  author = {Leonid V. Moroz and Cezary J. Walczyk and Andriy Hrynchyshyn and Vijay Holimath and Jan L. Cieśliński},
  journal= {arXiv preprint arXiv:1603.04483},
  year   = {2016}
}

备注

17 pages, 8 figures