使用 GPU 分析 HCP 数据集:一次科学协作的剖析
分布式、并行与集群计算
2019-09-10 v1
摘要
本文记录了为分析人类连接组计划 HCP900 数据集而提升数据处理工作流性能的经验。它描述了在一次科学协作过程中如何发现并解决网络与计算瓶颈。文中描述了一系列对标准 FSL BedpostX 工作流的计算增强。这些增强将工作流从因 Slurm 调度器不兼容导致的缓慢串行执行迁移至最终在 GPU 资源上执行,从单 CPU 核上 21 天的执行时间缩短为 GPU 上 2 小时。该工作流为配备额外 GPU 的校园计算集群建设提供了重要用例,并促成了网络带宽的增强。它还分享了关于科学软件分发潜在改进的见解,以避免站点特定部署决策中的停滞。讨论强调了开放许可证与 GitHub.com 等流行代码协作站点在向上游贡献方面的优势。
引用
@article{arxiv.1909.03314,
title = {Analyzing the HCP Datasets using GPUs: The Anatomy of a Science Engagement},
author = {John-Paul Robinson and Thomas Anthony and Ravi Tripathi and Sara A. Sims and Kristina M. Visscher and Purushotham V. Bangalore},
journal= {arXiv preprint arXiv:1909.03314},
year = {2019}
}
备注
6 pages, 3 figures, PEARC '18: Practice and Experience in Advanced Research Computing, July 22--26, 2018, Pittsburgh, PA, USA