评估分解式内存系统对 HPC 应用的潜力
摘要
分解式内存是一种有前景的方法，通过将内存与计算节点解耦并在数据中心内共享，来解决传统内存架构的局限性。云平台已部署此类系统以提高整体系统内存利用率，但性能因工作负载而异。高性能计算（HPC）在科学与工程应用中至关重要，HPC 机器同样面临内存利用率不足的问题。因此，在理解工作负载性能的同时提升系统内存利用率，对 HPC 运营者而言至关重要。因而，在部署前了解分解式内存系统的潜力是关键一步。本文提出一种探索分解式内存系统设计空间的方法。它纳入了影响分解式内存系统性能的关键指标：内存容量、本地与远程内存访问比、注入带宽与对分带宽，提供了基于技术趋势与工作负载特征指导机器配置的直观方法。我们将该方法应用于分析十三个多样化工作负载，包括 AI 训练、数据分析、基因组学、蛋白质、聚变、原子核以及传统 HPC 基准。我们的方法展示了理解分解式内存系统潜力与缺陷的能力，并为机器配置提供了依据。结果表明，十三个应用中有十一个可利用注入带宽分解式内存而不影响性能，一个承受机架对分带宽代价，两个承受系统级对分带宽代价。此外，我们还表明机架内内存分解可满足应用的内存需求并提供充足的远程内存带宽。
引用
@article{arxiv.2306.04014,
title = {Evaluating the Potential of Disaggregated Memory Systems for HPC applications},
author = {Nan Ding and Pieter Maris and Hai Ah Nam and Taylor Groves and Muaaz Gul Awan and LeAnn Lindsey and Christopher Daley and Oguz Selvitopi and Leonid Oliker and Nicholas Wright and Samuel Williams},
journal= {arXiv preprint arXiv:2306.04014},
year = {2023}
}
备注
The submission builds on the following conference paper: N. Ding, S. Williams, H.A. Nam, et al. Methodology for Evaluating the Potential of Disaggregated Memory Systems,2nd International Workshop on RESource DISaggregation in High-Performance Computing (RESDIS), November 18, 2022. It is now submitted to the CCPE journal for review