GRANITE：一种用于基本块吞吐量估计的图神经网络模型
机器学习
2022-10-12 v2 硬件体系结构
性能
摘要
解析硬件性能模型可快速估计所需的硬件性能指标。然而，为具有复杂微架构的现代处理器开发这些解析模型是一项极其繁琐的任务，且需要牢固理解目标微架构的内部结构。本文中，我们介绍 GRANITE，一种估计不同微架构下基本块吞吐量的新机器学习模型。GRANITE 使用基本块的图表示，捕获指令间结构与数据依赖。该表示通过图神经网络处理，利用图中捕获的关系信息并学习基本块的丰富神经表示，从而实现更精确的吞吐量估计。我们的结果确立了基本块性能估计的新 SOTA，在 x86-64 目标下跨广泛基本块与微架构的平均测试误差为 6.9%。与近期工作相比，误差降低了 1.7%，同时将训练与推理吞吐量提升了约 3.0 倍。此外，我们提出使用带有独立多层前馈解码网络的多任务学习。我们的结果表明，该技术在显著提高各微架构训练成本效率的同时，进一步提升了所有学习模型的精度。我们进行了大量消融研究并与先前工作比较，总结出一组实现基本块性能估计高准确度的方法。
引用
@article{arxiv.2210.03894,
title = {GRANITE: A Graph Neural Network Model for Basic Block Throughput Estimation},
author = {Ondrej Sykora and Phitchaya Mangpo Phothilimthana and Charith Mendis and Amir Yazdanbakhsh},
journal= {arXiv preprint arXiv:2210.03894},
year = {2022}
}
备注
13 pages; 5 figures; published at IISWC 2022; Included IEEE copyright;