浮点数的简易精确读写
数值分析
2018-08-08 v7
摘要
本文提出了在(十进制)科学计数法与(二进制)IEEE-754 双精度浮点数之间进行转换的算法。通过采用舍入整数商运算,这些算法比先前发表的算法简单得多。数值在格式间反复转换下保持稳定。与 Java-1.8 不同,生成的科学表示法仅使用转换回原始二进制值所需的最少尾数位数。
引用
@article{arxiv.1310.8121,
title = {Easy Accurate Reading and Writing of Floating-Point Numbers},
author = {Aubrey Jaffer},
journal= {arXiv preprint arXiv:1310.8121},
year = {2018}
}
备注
8 pages, 6 figures