中文

KLARAPTOR:一种针对 CUDA 程序动态寻找最优核启动参数的工具

分布式、并行与集群计算 2019-11-07 v1 性能

摘要

本文提出 KLARAPTOR(Kernel LAunch parameters RAtional Program estimaTOR,核启动参数有理程序估计器),一种构建于 LLVM Pass 框架与 NVIDIA CUPTI API 之上、用于动态确定 CUDA 程序 P 的核启动参数最优值的新工具。具体而言,我们描述了一种在 P 编译时静态构建所谓有理程序 R 的新技术。利用性能预测模型,并在运行时获知 P 的特定数据与硬件参数,程序 R 可自动且动态地确定 P 的启动参数值以产生最优性能。我们的技术可一般性地应用于并行程序,以及考虑程序与硬件参数的通用性能预测模型。我们特别关注面向众核加速器的程序。我们已在使用 MWP-CWP 性能预测模型的 CUDA GPU 核背景下实现并成功测试了该技术。

关键词

引用

@article{arxiv.1911.02373,
  title  = {KLARAPTOR: A Tool for Dynamically Finding Optimal Kernel Launch Parameters Targeting CUDA Programs},
  author = {Alexander Brandt and Davood Mohajerani and Marc Moreno Maza and Jeeva Paudel and Linxiao Wang},
  journal= {arXiv preprint arXiv:1911.02373},
  year   = {2019}
}

备注

10 pages. arXiv admin note: text overlap with arXiv:1906.00142