BB-ML：基于机器学习技术的基本块性能预测
机器学习
2023-11-14 v3 性能
摘要
近年来，机器学习（ML）技术被用于预测大规模应用的性能，大多在较粗粒度上。相比之下，我们提出在更细粒度即基本块（BB）级别使用 ML 技术进行性能预测，基本块是单入口单出口的代码块，编译器用它将对大型代码的剖析分解为可管理的片段。我们外推 GPU 应用的基本块执行次数，并利用它们从较小输入规模的次数预测较大输入规模下的性能。我们使用随机输入值以及应用的最低输入值训练泊松神经网络（PNN）模型，以学习输入与基本块次数之间的关系。实验结果表明，该模型能准确预测 16 个 GPU 基准测试的基本块执行次数。在较小输入集上训练时，外推大输入集基本块次数的准确率达 93.5%；在随机实例上预测基本块次数的准确率达 97.7%。在一个案例研究中，我们将 ML 模型应用于 CUDA GPU 基准测试以跨一系列应用进行性能预测。我们使用多种指标评估，包括全局内存请求以及张量核、ALU 和 FMA 单元的活跃周期。结果表明，该模型能以平均误差率 0.85% 和 0.17% 分别预测大数据集的全局和共享内存请求性能。此外，针对 Ampere 架构 GPU 主要功能单元的利用率，我们计算了张量核、ALU、FMA 和 FP64 单元的活跃周期，ALU 和 FMA 单元平均误差分别为 2.3% 和 10.66%，所有测试应用和单元的最大观测误差达 18.5%。
引用
@article{arxiv.2202.07798,
title = {BB-ML: Basic Block Performance Prediction using Machine Learning Techniques},
author = {Hamdy Abdelkhalik and Shamminuj Aktar and Yehia Arafa and Atanu Barai and Gopinath Chennupati and Nandakishore Santhi and Nishant Panda and Nirmal Prajapati and Nazmul Haque Turja and Stephan Eidenbenz and Abdel-Hameed Badawy},
journal= {arXiv preprint arXiv:2202.07798},
year = {2023}
}
备注
Accepted at the 29th IEEE International Conference on Parallel and Distributed Systems (ICPADS 2023)