整卡 GPU 记账的过时性

NVIDIA 在提升其 GPU 计算性能方面稳步进展，多年来实现了数量级的计算吞吐改进。由于许多部署中并存多种 GPU 型号，将全部 GPU 等同视之的传统记账方法已不再反映计算产出。此外，对于需要大量基于 CPU 的计算来补充基于 GPU 的计算的应用，越来越难以充分利用较新 GPU，需在这些 GPU 间多应用共享以最大化可达成科学产出。这进一步降低了整卡 GPU 记账的价值，尤其在基础设施层共享时。因此我们主张，面向吞吐型基础设施的 GPU 记账应以 GPU 核小时表示，正如通常对 CPU 所做的那样。尽管 GPU 核计算吞吐在代际间确有变化，其变动性类似于我们对 CPU 核间所预期的。为验证我们的立场，我们给出了在 14 种 GPU 型号上、使用本地与云资源运行两种 IceCube 光子传播工作流的广泛计时测量。测量还勾勒出在 HTCondor 与 Kubernetes 基础设施层的 GPU 共享影响。