rDLB：一种用于含并行独立任务科学应用鲁棒动态负载均衡的新方法
分布式、并行与集群计算
2019-10-07 v3 性能
摘要
科学应用常包含大规模且计算密集的并行循环。动态循环自调度（DLS）用于在高性能计算（HPC）系统上实现此类应用的负载均衡执行。大型 HPC 系统易受处理器或节点故障以及资源可用性扰动的影响。多数自调度方法未考虑容错调度，或依赖故障或扰动检测并通过重新调度失败任务来应对。本工作中，提出一种鲁棒动态负载均衡（rDLB）方法，用于独立任务的鲁棒自调度。所提方法是主动式的，不依赖故障或扰动检测。理论分析表明该方法线性可扩展，且随系统规模增大其开销以二次方下降。rDLB 被集成到 MPI DLS 库中，以两个计算密集型科学应用实验评估其性能。结果显示 rDLB 可容忍多达（P 减一）个处理器故障，其中 P 为执行某应用的处理器数。在存在扰动时，与不采用 rDLB 的对应技术相比，rDLB 将 DLS 技术的鲁棒性提升达 30 倍，并将应用执行时间缩短达 7 倍。
引用
@article{arxiv.1905.08073,
title = {rDLB: A Novel Approach for Robust Dynamic Load Balancing of Scientific Applications with Parallel Independent Tasks},
author = {Ali Mohammed and Aurelien Cavelan and Florina M. Ciorba},
journal= {arXiv preprint arXiv:1905.08073},
year = {2019}
}