ML$^2$Tuner：通过多级机器学习模型实现高效代码调优
机器学习
2024-11-19 v1
摘要
深度学习模型日益增长的复杂性需要专门的硬件和软件优化，特别是对于深度学习加速器。现有的自动调优方法常因剖析无效配置（可能导致运行时错误）而遭受调优时间过长的问题。我们引入了 MLTuner，这是一种多级机器学习调优技术，通过引入一个有效性预测模型来过滤无效配置，并利用一个利用编译过程中隐藏特征的高级性能预测模型，从而提高了自动调优效率。在扩展的 VTA 加速器上的实验结果表明，MLTuner 仅使用与 TVM 类似方法所需样本量的 12.3% 就实现了等效的性能提升，并将无效剖析尝试平均减少了 60.8%，突显了其通过过滤无效配置来增强自动调优性能的潜力。
引用
@article{arxiv.2411.10764,
title = {ML$^2$Tuner: Efficient Code Tuning via Multi-Level Machine Learning Models},
author = {JooHyoung Cha and Munyoung Lee and Jinse Kwon and Jubin Lee and Jemin Lee and Yongin Kwon},
journal= {arXiv preprint arXiv:2411.10764},
year = {2024}
}
备注
Accepted in NeurIPS 2024 workshop on Machine Learning for Systems, 12 pages, 5 figures