HARP：面向混合复用工作负载的异构分层处理器分类法
分布式、并行与集群计算
2025-02-19 v1 硬件体系结构
摘要
人工智能 (AI) 应用领域包含混合算子，这些算子具有高低不同的算术强度（即复用）。层次化（即沿多个内存层次进行计算）和异构（多个不同子加速器）加速器正在成为处理混合复用工作负载和由各类张量算子组成的异构工作负载的流行方式。然而，层次化和/或异构处理器（HHP）的空间相对不被充分探索。先前的工作提出了定制架构，以利用异构性质，拥有针对不同算子形状高效的多个子加速器。在本工作中，我们提出了 HARP，一套用于分类各种层次化和异构加速器的分类法，并使用该分类法研究异构性在体系结构不同层面的影响。HARP 分类法捕捉了 HHP 可被构想的各种方式，ranging 从具有“节点内异构性”（SM 与张量核心之间）的 B100 核心，到在不同内存层次上发生跨深度异构性的 NeuPIM。我们使用 Timeloop mapper 查找子加速器的最佳映射，也修改了 Timeloop 成本模型以扩展其对层次化和异构加速器的建模。
引用
@article{arxiv.2502.13113,
title = {HARP: A Taxonomy for Heterogeneous and Hierarchical Processors for Mixed-reuse Workloads},
author = {Raveesh Garg and Michael Pellauer and Tushar Krishna},
journal= {arXiv preprint arXiv:2502.13113},
year = {2025}
}