GPGPU应用的性能与功耗预测
分布式、并行与集群计算
2023-05-04 v1 性能
摘要
图形处理单元(GPU)已成为高性能计算中实现百亿亿次(Exascale)性能的组成部分。GPU应用开发者的主要目标是广泛调优其代码以获取最优性能,并高效利用可用资源。在从HPC基础设施中提取应用最优性能的同时,考虑到数据中心与HPC服务器的巨大功耗,开发者还应确保应用具有最低能耗。本论文提出两个可供开发者分析CUDA内核能量耗散的模型。第一个是预测CUDA内核执行时间的模型。此处对PTX代码进行静态分析以提取指令特征、控制流与数据依赖。我们提出两种满足性能与硬件约束的调度算法思路。第二个模型是基于静态分析、利用机器学习技术构建的功耗预测模型。构建模型所用的特征通过PTX代码静态分析得到。选取这些特征旨在理解GPU功耗与程序特征间的关系,从而协助开发者构建节能、可持续的应用。用于验证两个模型的数据集包含来自不同基准测试套件、规模、性质(如计算密集型、内存密集型)与复杂度(如控制发散、内存访问模式)的内核。我们还展示了一款工具,其已在实际中验证了这两个模型作为GPU设计辅助工具的效力与易用性。
引用
@article{arxiv.2305.01886,
title = {Prediction of Performance and Power Consumption of GPGPU Applications},
author = {Gargi Alavani and Santonu Sarkar},
journal= {arXiv preprint arXiv:2305.01886},
year = {2023}
}
备注
PhD Thesis