低比特宽 Cholesky 分解中最小二乘误差的概率检验
信息论
2024-04-09 v1 math.IT
摘要
本文提出了一种新方法,以论证舍入误差对使用 Cholesky 分解的线性最小二乘(LS)解精度的影响。该分解被广泛用于多用户多天线接收机中线性检测器的矩阵求逆。所提出的随机界比其他数值界更接近实际误差。它使用半精度格式进行了测试,并在真实场景中得到了验证。实验结果表明,我们的方法预测的误差与模拟得到的误差非常接近。所提出的方法可用于分析许多其他应用中产生的舍入误差。
引用
@article{arxiv.2404.05082,
title = {Probabilistic Examination of Least Squares Error in Low-bitwidth Cholesky Decomposition},
author = {Alexander Osinsky and Roman Bychkov and Mikhail Trefilov and Vladimir Lyashev and Andrey Ivanov},
journal= {arXiv preprint arXiv:2404.05082},
year = {2024}
}