面向不同稀疏度输入向量的GPU自适应SpMV/SpMSpV
分布式、并行与集群计算
2020-12-18 v3 数学软件
摘要
尽管在现代硬件架构上优化稀疏矩阵与向量乘法（SpMV）性能的努力众多，但其稀疏对应形式——稀疏矩阵与稀疏向量乘法（SpMSpV）的工作却很少，更不用说处理具有不同稀疏度的输入向量。关键挑战在于，根据稀疏度水平、数据分布与计算平台的不同，SpMV/SpMSpV核函数的最优选择会变化，静态选择并不足够。本文提出一种自适应SpMV/SpMSpV框架，可在运行时为任意稀疏矩阵与向量自动选择适当的GPU上SpMV/SpMSpV核函数。基于对计算模式、工作负载分布与写回策略等关键因素的系统分析，框架封装了八种候选SpMV/SpMSpV核函数以无缝实现高性能。我们基于机器学习核选择器进行了全面研究，从精度与开销角度选择核函数并适应输入与硬件的多样性。实验表明，该自适应框架在NVIDIA Tesla K40m、P100与V100 GPU上的真实应用中可大幅优于先前最先进水平。
引用
@article{arxiv.2006.16767,
title = {Adaptive SpMV/SpMSpV on GPUs for Input Vectors of Varied Sparsity},
author = {Min Li and Yulong Ao and Chao Yang},
journal= {arXiv preprint arXiv:2006.16767},
year = {2020}
}
备注
12 pages