三元组模式下的GPU共享
应用统计
2025-09-16 v4
摘要
由于ChatGPT等生成式AI应用的激增，人们对AI/ML技术的兴趣空前高涨。这一趋势显著增加了对GPU的需求，而GPU是训练AI模型的核心硬件。鉴于GPU成本高昂且供应不足，优化HPC中心的GPU利用率已成为一个备受关注的课题。林肯实验室超级计算中心（LLSC）开发了一项易于使用的GPU共享功能，该功能由LLSC开发工具（包括LLsub和LLMapReduce）支持。这种方法克服了现有GPU共享技术的一些局限性。它允许用户在开发AI/ML模型或对其AI模型进行参数研究时，尽可能利用GPU共享。根据我们使用GPU共享的初步实验结果，三元组模式下的GPU共享易于使用，并且在GPU利用率和特定类型AI应用的吞吐量方面取得了显著提升。
引用
@article{arxiv.2410.22253,
title = {Pedestrian crash causation analysis near bus stops: Insights from random parameters Negative Binomial-Lindley model},
author = {Mohammad Anis and Srinivas R. Geedipally and Dominique Lord},
journal= {arXiv preprint arXiv:2410.22253},
year = {2025}
}
备注
26 pages, 8 figures