基于贝叶斯优化对 Apache TVM 科学应用进行自动调优
机器学习
2023-09-15 v1 人工智能
数值分析
数值分析
摘要
Apache TVM（Tensor Virtual Machine，张量虚拟机）是一个开源机器学习编译器框架，旨在优化跨各种硬件平台的计算，为提升 LU（Lower Upper，下上）分解和 Cholesky 分解等稠密矩阵分解在 GPU 和 AI（Artificial Intelligence，人工智能）加速器上的性能提供了机会。本文提出一种使用贝叶斯优化的新型 TVM 自动调优框架，并利用 TVM 张量表达式语言实现 LU、Cholesky 和 3mm 等线性代数核。我们使用这些科学计算核在阿贡国家实验室名为 Swing 的 GPU 集群上评估方法的有效性。我们将所提出的自动调优框架与带有四种调优器的 TVM 自动调优框架 AutoTVM 进行比较，发现我们的框架在大多数情况下优于 AutoTVM。
引用
@article{arxiv.2309.07235,
title = {Autotuning Apache TVM-based Scientific Applications Using Bayesian Optimization},
author = {Xingfu Wu and Praveen Paramasivam and Valerie Taylor},
journal= {arXiv preprint arXiv:2309.07235},
year = {2023}
}