Weather & Climate Dwarfs 在多节点系统上的性能报告与优化实现
分布式、并行与集群计算
2019-08-20 v1
摘要
本文档是为 ESCAPE 项目所创建的交付报告之一。ESCAPE 代表 Energy-efficient Scalable Algorithms for Weather Prediction at Exascale（百亿亿次规模天气预测的能量高效可扩展算法）。该项目为欧洲业务数值天气预报和未来气候模式开发世界级的极端规模计算能力。其通过识别 Weather & Climate dwarfs（天气与气候矮元）来实现，这些是计算与通信方面的关键模式（秉承 Berkeley dwarfs 的精神）。随后这些 dwarfs 针对不同的硬件架构（单节点与多节点）进行优化，并探索替代算法。性能可移植性通过领域特定语言的使用来解决。在此我们总结了聚焦于 CPU 多节点和多 GPU 的 dwarfs 优化工作。我们仅限于联盟选定的 dwarfs 配置子集。dwarfs 的节点内优化和特定能量优化已在交付物 D3.3 中描述。为覆盖重要的算法基元，我们选取了与动力核以及柱物理相关的 dwarfs。具体而言，我们聚焦于与谱代码（如 ECMWF 的 IFS 代码）相关的公式。本报告的主要发现为：(a) 与来自任务 3.3 的优化版 dwarfs（见 D3.3）相比，基于 CPU 的多节点系统获得高达 30% 的性能提升；(b) 多 GPU 上通过保持数据驻留 GPU 并启用快速 GPU 间通信机制的优化获得高达 10X 的性能提升；(c) 具备 NVLink/NVSwitch 硬件的高带宽全互连拓扑的多 GPU 系统尤其适合这些算法。
引用
@article{arxiv.1908.06097,
title = {Performance report and optimized implementations of Weather & Climate dwarfs on multi-node systems},
author = {Louis Douriez and Alan Gray and David Guibert and Peter Messmer and Erwan Raffin},
journal= {arXiv preprint arXiv:1908.06097},
year = {2019}
}
备注
35 pages, 22 figures