基于值函数的深度学习负载性能优化
机器学习
2020-12-01 v1 人工智能
摘要
随着机器学习技术变得无处不在，神经网络实现的效率也变得同样至关重要。Halide 和 TVM 等框架将网络的算法表示与决定其实现的调度（schedule）分离开来。然而，寻找良好的调度仍然极具挑战性。我们将这一调度问题建模为一系列优化选择，并提出了一种新技术来准确预测部分调度的预期性能。通过利用这些预测，我们可以贪婪地做出这些优化决策，并快速识别出高效的调度。这使我们能够找到比 Halide 将深度神经网络吞吐量提高 2.6 倍、比 TVM 提高 1.5 倍的调度。此外，我们的技术比这些工具快两到三个数量级，并在数秒内而非数小时内完成。
引用
@article{arxiv.2011.14486,
title = {Value Function Based Performance Optimization of Deep Learning Workloads},
author = {Benoit Steiner and Chris Cummins and Horace He and Hugh Leather},
journal= {arXiv preprint arXiv:2011.14486},
year = {2020}
}