NOM：用于高度多 Bank 存储器中 Bank 间数据传输的 Network-On-Memory
硬件体系结构
2020-04-27 v1
摘要
数据拷贝是许多程序和操作系统服务中广泛使用的存储器操作。在传统计算机中，数据拷贝通常由两个独立的读和写事务来完成，这些事务在 DRAM 芯片和处理器芯片之间来回传递数据。先前的一些机制提出，通过使用 DRAM 芯片内的共享内部总线直接在 DRAM 芯片内（例如，在两个 DRAM bank 之间）拷贝数据，来避免这种不必要的数据移动。虽然这些方法与传统技术相比表现出优越的性能，但跨不同 DRAM bank 的数据拷贝仍然比同一 DRAM bank 内的数据拷贝慢得多。因此，这些技术对于包含跨多个存储器控制器的数百个 DRAM bank 的新兴 3D-stacked memory（例如 HMC 和 HBM）具有有限的益处。在本文中，我们提出了 Network-on-Memory (NoM)，这是一种轻量级的 bank 间数据通信方案，能够在 3D-stacked memory 的多个存储器 bank 之间实现直接数据拷贝。NoM 采用基于 TDM 的电路交换设计，其中电路建立由存储器控制器完成。与 state-of-the-art 方法相比，NoM 支持多个 DRAM bank 之间的快速数据拷贝和并发数据传输操作。我们的评估表明，与基线传统 3D-stacked DRAM 架构和 state-of-the-art 技术相比，NoM 平均将数据密集型工作负载的性能分别提高了 3.8 倍和 75%。
引用
@article{arxiv.2004.09923,
title = {NOM: Network-On-Memory for Inter-Bank Data Transfer in Highly-Banked Memories},
author = {Seyyed Hossein SeyyedAghaei Rezaei and Mehdi Modarressi and Rachata Ausavarungnirun and Mohammad Sadrosadati and Onur Mutlu and Masoud Daneshtalab},
journal= {arXiv preprint arXiv:2004.09923},
year = {2020}
}
备注
To appear in IEEE Computer Architecture Letters in 2020