JUWELS Booster——面向大规模 AI 研究的超级计算机
分布式、并行与集群计算
2021-08-30 v1 机器学习
摘要
在本文中，我们介绍了 JUWELS Booster，这是 Jülich 超级计算中心最近部署的高性能计算系统。凭借其系统架构，最重要的是其大量强大的图形处理器 (GPU) 以及通过 InfiniBand 实现的快速互连，它是大规模人工智能 (AI) 研究与应用的理想机器。我们详细介绍了它的系统架构、并行分布式模型训练，以及表明其卓越性能的基准测试。我们通过展示来自各个科学领域、需要此类设施的大规模 AI 研究亮点，举例说明了其在研究应用中的潜力。
引用
@article{arxiv.2108.11976,
title = {JUWELS Booster -- A Supercomputer for Large-Scale AI Research},
author = {Stefan Kesselheim and Andreas Herten and Kai Krajsek and Jan Ebert and Jenia Jitsev and Mehdi Cherti and Michael Langguth and Bing Gong and Scarlet Stadtler and Amirpasha Mozaffari and Gabriele Cavallaro and Rocco Sedona and Alexander Schug and Alexandre Strube and Roshni Kamath and Martin G. Schultz and Morris Riedel and Thomas Lippert},
journal= {arXiv preprint arXiv:2108.11976},
year = {2021}
}
备注
12 pages, 5 figures. Accepted at ISC 2021, Workshop Deep Learning on Supercomputers. This is a duplicate submission as my previous submission is on hold for several weeks now and my attempts to contact the moderators failed