任意精度的数值计算

B. O. Rodrigues; L. A. C. P. da Mota; L. G. S. Duarte

doi:10.1142/S0218301307009014

任意精度的数值计算

数值分析 2009-11-13 v1 数学软件

作者: B. O. Rodrigues , L. A. C. P. da Mota , L. G. S. Duarte

在 arXiv 上查看 ↗ PDF ↗ DOI ↗

摘要

计算机在科学数值计算中的广泛使用，使得意识到这些机器所能提供的精度有限成为一个至关重要的问题。有限且不足的精度加上截断误差和舍入误差，可能导致用户对其答案产生错误解读。在本工作中，我们开发了一个计算包，通过提供任意精度数和计算来最小化此类误差。这在物理学中非常重要，因为在物理学中我们可以同时处理极小和极大的数字。

关键词

computability theory computer algebra mixed precision training

引用

@article{arxiv.0707.1716,
  title  = {Numerical Calculation With Arbitrary Precision},
  author = {B. O. Rodrigues and L. A. C. P. da Mota and L. G. S. Duarte},
  journal= {arXiv preprint arXiv:0707.1716},
  year   = {2009}
}

任意精度的数值计算

摘要

关键词

引用

评论

相关论文