与 Grace Hopper AI 超芯片及国家研究平台探险
机器学习
2024-11-06 v3
摘要
国家科学基金会（NSF）资助的国家研究平台（NRP）是一个由全国及全球互联的异构计算资源组成的超融合集群。NRP 的主导计算环境是 x86 64 指令集架构（ISA），通常配备图形处理单元（GPU）。跨国家的研究人员利用容器和 Kubernetes 在异构网络基础设施上执行高吞吐计算（HTC）工作负载，以实现最小摩擦和最大灵活性。作为 NSF 资助的 GP-ENGINE 项目的一部分，我们在 NRP 上搭建了首台配备 NVIDIA Grace Hopper AI 芯片（GH200）的服务器，该芯片是另一种 ARM ISA。这带来了挑战，因为容器必须为 ARM 而非 x86 64 专门构建。本文描述了我们所遇到的挑战、相应解决方案以及一些相关性能基准。我们特别将 GH200 与 A100 用于计算机视觉工作负载进行比较，方法是在 NRP 中的计算节点中进行比较。
引用
@article{arxiv.2410.16486,
title = {Survival Multiarmed Bandits with Bootstrapping Methods},
author = {Peter Veroutis and Frédéric Godin},
journal= {arXiv preprint arXiv:2410.16486},
year = {2024}
}