使用图神经网络学习中间表示以优化 NUMA 与预取器
分布式、并行与集群计算
2022-03-02 v1 人工智能
机器学习
摘要
存在大量的 NUMA 和硬件预取器配置，它们可以显著影响应用程序的性能。先前的研究已经证明，模型如何能够基于代码的动态特性自动选择配置以实现加速。本文展示了如何在不付出高昂性能分析代价的情况下，利用代码的静态中间表示（IR）来指导 NUMA/预取器优化。我们提出了一种方法来创建一个全面的数据集，其中包含一组多样化的中间表示以及最优配置。然后，我们应用图神经网络模型来验证该数据集。我们表明，基于静态中间表示的模型实现了昂贵的基于动态性能分析的策略所提供的 80% 的性能提升。我们进一步开发了一种同时使用静态和动态信息的混合模型。我们的混合模型实现了与动态模型相同的增益，但通过仅对 30% 的程序进行性能分析，降低了成本。
引用
@article{arxiv.2203.00611,
title = {Learning Intermediate Representations using Graph Neural Networks for NUMA and Prefetchers Optimization},
author = {Ali TehraniJamsaz and Mihail Popov and Akash Dutta and Emmanuelle Saillard and Ali Jannesari},
journal= {arXiv preprint arXiv:2203.00611},
year = {2022}
}