中文

FUSE:将 STT-MRAM 融合进 GPU 以缓解片外内存访问开销

硬件体系结构 2019-03-12 v2

摘要

在这项工作中,我们提出 FUSE,一种将自旋转移矩磁随机存取存储器(STT-MRAM)集成到片上 L1D 缓存的新型 GPU 缓存系统。FUSE 能够最小化经由 GPU 多处理器互连网络发出的内存访问次数,从而显著提升 GPU 中大规模计算并行度。具体而言,FUSE 通过提取 GPU 运行时信息来预测 GPU 内存访问的读取级别,并将一次写多次读(WORM)数据块放入 STT-MRAM,同时将多次写数据块安置在 L1D 缓存的一小部分 SRAM 中。为了进一步减少片外内存访问,FUSE 还允许 WORM 数据块通过以有限数量的标签比较器和 I/O 外设近似相联性而分配在 STT-MRAM 中的任意位置。我们的评估结果表明,相较于传统 GPU 缓存,我们提出的异构缓存在互连网络上减少了 32% 的向外内存引用次数,从而将整体性能提升 217% 并将能耗降低 53%。

关键词

引用

@article{arxiv.1903.01776,
  title  = {FUSE: Fusing STT-MRAM into GPUs to Alleviate Off-Chip Memory Access Overheads},
  author = {Jie Zhang and Myoungsoo Jung and Mahmut Taylan Kandemir},
  journal= {arXiv preprint arXiv:1903.01776},
  year   = {2019}
}