阶段、模态与时空局部性:面向图分析加速的领域专用ML预取器
机器学习
2023-09-26 v2 硬件体系结构
摘要
内存性能是图分析加速中的瓶颈。现有的机器学习(ML)预取器难以应对图处理中的阶段转换与不规则内存访问。我们提出MPGraph,一种基于ML、利用领域专用模型的图分析预取器。MPGraph引入了三项新颖优化:用于阶段转换的软检测、用于访问增量与页预测的相位特定多模态模型,以及用于预取控制的链式时空预取(CSTP)。我们的转换检测器相比Kolmogorov-Smirnov Windowing与决策树实现了34.17-82.15%更高的精度。我们的预测器相比LSTM与朴素注意力模型在增量预测上F1分数高6.80-16.02%,在页预测上accuracy-at-10高11.68-15.41%。使用CSTP,MPGraph实现了12.52-21.23%的IPC提升,优于最先进的非ML预取器BO达7.58-12.03%,并优于基于ML的预取器Voyager与TransFetch达3.27-4.58%。在实际实现中,我们展示了采用压缩模型且降低延迟的MPGraph相比BO具有显著更优的精度与覆盖率,从而带来3.58%更高的IPC提升。
引用
@article{arxiv.2212.05250,
title = {Phases, Modalities, Temporal and Spatial Locality: Domain Specific ML Prefetcher for Accelerating Graph Analytics},
author = {Pengmiao Zhang and Rajgopal Kannan and Viktor K. Prasanna},
journal= {arXiv preprint arXiv:2212.05250},
year = {2023}
}