Gem5-AcceSys:面向新型加速器的标准互连系统级探索
硬件体系结构
2025-04-17 v2 性能
摘要
随着对高效高性能计算的日益增长,硬件加速器如 GPU 和数据流加速器(DSA)在机器学习(ML)和图像处理中日益至关重要。这些加速器通过将计算卸载到专用硬件来增强 ML 和图像处理任务,互连对于实现有效的数据传输至关重要,使互连设计对于系统级性能至关重要。本文介绍 Gem5-AcceSys,这是一个用于标准互连和可配置内存层次结构的系统级探索框架。以针对 Transformer 工作负载量身定制的矩阵乘法加速器为案例研究,我们评估了 PCIe 在各种内存类型(DDR4、DDR5、GDDR6、HBM2)和配置(包括主机侧和设备侧内存)下的性能。我们的发现表明,优化后的互连可实现最高 80% 的设备侧内存性能,甚至在某些情况下超越该性能。这些结果为系统架构师提供了在下一代加速器设计中实现性能和成本平衡的可操作性见解。
引用
@article{arxiv.2502.12273,
title = {Gem5-AcceSys: Enabling System-Level Exploration of Standard Interconnects for Novel Accelerators},
author = {Qunyou Liu and Marina Zapater and David Atienza},
journal= {arXiv preprint arXiv:2502.12273},
year = {2025}
}