共享虚拟内存：其设计及对多样化应用的性能影响
分布式、并行与集群计算
2024-05-14 v1
摘要
离散 GPU 加速器虽然为超级计算机和数据中心提供了巨大的计算能力，但它们具有独立的内存域。编程中在设备和主机域之间进行显式内存管理繁琐且容易出错。为了提高编程的可移植性和生产力，统一内存（UM）将 GPU 内存集成到主机虚拟内存系统中，提供在两者之间以及 GPU 内存超载的透明数据迁移。然而，当前的 UM 技术会导致应用程序出现显著的性能损失。随着 AMD GPU 越来越多地集成到世界领先的超级计算机中，弄清它们的共享虚拟内存（SVM）并减轻其性能影响是必要的。在本工作中，我们深入研究了 SVM 的设计，细致分析了其与应用程序数据访问的交互方式，并对其在各种应用程序上的性能效果进行定量分析，确定了性能瓶颈。我们的研究表明，SVM 对需求分页采用激进的预取策略。这种预取在 GPU 内存未超载时是高效的。然而，结合驱逐策略，在超载情况下，某些应用程序会导致过度抖动和性能下降。我们讨论了 SVM 感知算法和 SVM 设计变更以减轻性能影响。到我们知识中，本工作是对 SVM 技术进行的首次深入且全面的研究。
引用
@article{arxiv.2405.06811,
title = {Shared Virtual Memory: Its Design and Performance Implications for Diverse Applications},
author = {Bennett Cooper and Thomas R. W. Scogland and Rong Ge},
journal= {arXiv preprint arXiv:2405.06811},
year = {2024}
}
备注
To be published in ICS '24