OpenCL 模板模式的工作组大小自动调优
分布式、并行与集群计算
2016-01-07 v3
摘要
选择合适的工作组大小对 OpenCL 内核的性能至关重要，且需要了解底层硬件、所操作的数据以及内核的实现。这使得 OpenCL 程序的可移植性能成为一项具有挑战性的目标，因为简单的启发式方法和静态选择的值无法利用可用性能。为此，我们提出使用机器学习赋能的自动调优来自动预测 CPU 和多 GPU 上模板模式的工作组大小。我们提出了三种预测工作组大小的方法。第一种使用分类器选择最优工作组大小。第二种和第三种提出的方法新颖地采用回归器进行分类，分别通过预测内核的运行时间和不同工作组大小的相对性能来实现。我们在一个涵盖架构、内核和数据集的 429 种组合的实证研究中评估了每种技术的有效性，每种组合平均比较了 629 种不同的工作组大小。我们发现，与最佳可能的固定工作组大小相比，自动调优提供了中位数 3.79 倍的加速，达到了最大性能的 94%。
引用
@article{arxiv.1511.02490,
title = {Autotuning OpenCL Workgroup Size for Stencil Patterns},
author = {Chris Cummins and Pavlos Petoumenos and Michel Steuwer and Hugh Leather},
journal= {arXiv preprint arXiv:1511.02490},
year = {2016}
}
备注
8 pages, 6 figures, presented at the 6th International Workshop on Adaptive Self-tuning Computing Systems (ADAPT '16)