MT4G：一种可靠自动发现NVIDIA和AMD GPU计算与内存拓扑的工具
分布式、并行与集群计算
2025-11-11 v1
摘要
了解GPU拓扑结构对于HPC或AI中的性能相关任务至关重要。然而，与CPU工具如hwloc不同，GPU信息难以获取、不完整且具有厂商特定性。本文致力于弥合这一差距，提出MT4G——一个开源且厂商中立的工具，自动发现GPU计算与内存拓扑及配置，包括缓存大小、带宽和物理布局。MT4G综合现有API与50余个微基准测试，运用Kolmogorov-Smirnov检验等统计方法，自动可靠地识别此前难以通过编程获取的拓扑属性。我们在十种不同GPU上展示MT4G的普适性，并通过集成至三个工作流程（GPU性能建模、GPUscout瓶颈分析、动态资源分配）来展示其实际价值，这些场景凸显了MT4G在NVIDIA和AMD GPU上理解系统性能特征的作用，为现代HPC和AI系统提供了一种自动化、可移植的解决方案。
引用
@article{arxiv.2511.05958,
title = {MT4G: A Tool for Reliable Auto-Discovery of NVIDIA and AMD GPU Compute and Memory Topologies},
author = {Stepan Vanecek and Manuel Walter Mussbacher and Dominik Groessler and Urvij Saroliya and Martin Schulz},
journal= {arXiv preprint arXiv:2511.05958},
year = {2025}
}
备注
14 pages, including Appendix and References, 5 figures, to be published in Workshops of the International Conference for High Performance Computing, Networking, Storage and Analysis (SC Workshops '25)