LRAMM —— 通过 RSVD 实现低精度 GEMM 的近似
数值分析
2024-05-28 v1 数值分析
性能
摘要
矩阵乘法计算加速是贯穿于各个领域的研究热点。由于某些应用的特性，近似矩阵乘法可以在不显著牺牲精度的前提下获得显著的性能提升。本文提出了 LRAMM —— 一种高性能矩阵乘法近似算法，将混合精度量化矩阵乘法与 RSVD 技术相结合，进一步通过利用矩阵低秩分解技术，在低精度矩阵乘法的误差范围内提升效率。
引用
@article{arxiv.2405.16917,
title = {LRAMM -- Low precision approximates GEMM via RSVD},
author = {Hongyaoxing Gu},
journal= {arXiv preprint arXiv:2405.16917},
year = {2024}
}