MatRox:用于改善分层矩阵近似中数据局部性的模块化方法
分布式、并行与集群计算
2019-12-03 v7
摘要
分层矩阵近似在机器学习和科学界获得了显著关注,因为它们利用核方法中可用的低秩结构来压缩核矩阵。所得的压缩矩阵 HMatrix 用于降低诸如 HMatrix-矩阵乘法等运算的计算复杂度,并在评估阶段具有可调精度。现有的 HMatrix 评估实现不能保持局部性,且常导致不平衡的并行执行与高同步开销。此外,当前方案在核方法或所需精度改变时需要重新执行压缩阶段。在这项工作中,我们描述了 MatRox,一个使用新颖结构分析策略(分块与粗化)并结合代码特化与存储格式以改善局部性并为 HMatrix-矩阵乘法创建负载均衡并行任务的框架。矩阵压缩阶段的模块化使得在输入精度和核函数发生变化时可重用计算。MatRox 生成的矩阵-矩阵乘法代码比 GOFMM、SMASH 和 STRUMPACK 中的库实现分别快 2.98 倍、1.60 倍和 5.98 倍。此外,对于精度变化重用部分压缩计算的能力,使 MatRox 在 GOFMM 上经历五次精度变化时获得最高 2.64 倍的提升。
引用
@article{arxiv.1812.07152,
title = {MatRox: Modular approach for improving data locality in Hierarchical (Mat)rix App(Rox)imation},
author = {Bangtian Liu and Kazem Cheshmi and Saeed Soori and Michelle Mills Strout and Maryam Mehri Dehnavi},
journal= {arXiv preprint arXiv:1812.07152},
year = {2019}
}