基准测试新范式：真实存内处理架构的实验分析
硬件体系结构
2022-05-06 v7 分布式、并行与集群计算
性能
摘要
许多现代工作负载，如神经网络、数据库和图处理，本质上是受内存限制的。对于此类工作负载，主存与 CPU 核心之间的数据移动在延迟和能耗方面都带来了显著开销。一个主要原因是该通信通过具有高延迟和有限带宽的窄总线发生，且受内存限制工作负载中较低的数据重用不足以分摊主存访问的成本。从根本上解决此数据移动瓶颈需要一种由内存系统集成处理能力从而承担计算主动角色的范式。该范式被称为存内处理（PIM）。近期研究探索了不同形式的 PIM 架构，其动机是新兴的将内存与可轻松放置处理元素的逻辑层集成的 3D 堆叠内存技术。以往工作在仿真中或至多使用简化硬件原型来评估这些架构。相比之下，UPMEM 公司设计并制造了首个公开可用的真实世界 PIM 架构。本文对首个公开可用的真实世界 PIM 架构提供首次综合分析。我们做出两项关键贡献。首先，我们使用微基准测试对基于 UPMEM 的 PIM 系统进行实验表征，以评估各种架构限制（如计算吞吐量和内存带宽），从而产生新的见解。其次，我们提出 PrIM，一个来自不同应用领域（例如线性代数、数据库、图处理、神经网络、生物信息学）的 16 个工作负载的基准测试套件。
引用
@article{arxiv.2105.03814,
title = {Benchmarking a New Paradigm: An Experimental Analysis of a Real Processing-in-Memory Architecture},
author = {Juan Gómez-Luna and Izzat El Hajj and Ivan Fernandez and Christina Giannoula and Geraldo F. Oliveira and Onur Mutlu},
journal= {arXiv preprint arXiv:2105.03814},
year = {2022}
}
备注
Our open source software is available at https://github.com/CMU-SAFARI/prim-benchmarks