面向可调整并行计算的高效多维数据重分布
分布式、并行与集群计算
2007-06-15 v1
摘要
运行在集群超级计算机上的传统并行调度器仅支持静态调度,即分配给应用程序的处理器数量在整个作业执行过程中保持不变。这导致空闲系统资源利用率不足,从而降低了整体系统吞吐量。在我们的研究中,我们开发了一个名为 ReSHAPE 的原型框架,支持在分布式内存平台上动态调整并行 MPI 应用程序的规模。ReSHAPE 中的重分布库支持释放和获取处理器,并将应用程序状态高效地重分布到新的一组处理器。在本文中,我们推导了一种将二维块循环数组从 个处理器重分布到 个处理器的算法,这些处理器组织为二维处理器网格。如果 且 ,该算法确保数据重分布的通信调度无竞争。在其他情况下,该算法在通信调度上实施循环行和列移位,以最小化节点竞争。
引用
@article{arxiv.0706.2146,
title = {Efficient Multidimensional Data Redistribution for Resizable Parallel Computations},
author = {Rajesh Sudarsan and Calvin J. Ribbens},
journal= {arXiv preprint arXiv:0706.2146},
year = {2007}
}
评论
18 pages, 12 figures, 2 tables. A shorter version of this paper is available in the proceedings of the The Fifth International Symposium on Parallel and Distributed Processing and Applications (ISPA07)