SpChar：基于决策树的稀疏难题特征刻画
硬件体系结构
2024-07-31 v2
摘要
稀疏矩阵计算在包括大规模图分析、深度学习和推荐系统在内的多种现代应用中至关重要。稀疏核的性能因输入矩阵结构不同而有很大差异，使得难以全面理解稀疏计算及其与输入、算法和目标机器架构的关系。尽管对诸如稀疏矩阵-向量乘法（SpMV）等某些稀疏核已有广泛研究，但整体稀疏算法族尚未作为整体被探究。本文引入 SpChar，一种面向通用稀疏计算的工作负载特征刻画方法。SpChar 采用基于树的模型，从性能监控计数器（PMCs）和矩阵收集的硬件与输入相关指标出发，识别最相关的硬件与输入特征。我们的分析得以建立一种特征刻画循环，通过将架构特征的影响映射到输入与算法选择来促进稀疏计算的优化。我们将 SpChar 应用于来自 SuiteSparse 矩阵集的 600 余个矩阵和三种最先进的 Arm CPU，以确定影响稀疏计算的关键软硬件特征。在分析中，我们确定高性能稀疏计算的最大限制因素为 (1) 存储系统的延迟，(2) 由分支预测错误导致的流水线冲刷开销，以及 (3) 缓存元素的低复用率。此外，我们提出设计者可实现的软件与硬件优化，以创建适合稀疏计算的平台。随后我们使用 gem5 模拟器研究这些优化，相较未应用优化的 CPU 实现了最高 2.63 倍的显著加速。
引用
@article{arxiv.2304.06944,
title = {SpChar: Characterizing the Sparse Puzzle via Decision Trees},
author = {Francesco Sgherzi and Marco Siracusa and Ivan Fernandez and Adrià Armejach and Miquel Moretó},
journal= {arXiv preprint arXiv:2304.06944},
year = {2024}
}
备注
27 pages, 17 figures