以对数时间计算最优广播计划及其在广播、全广播、约简和全约简中的应用
分布式、并行与集群计算
2024-07-29 v2
摘要
我们给出针对消息传递并行计算系统的轮次最优广播计划的 时间(每个处理器)算法。这肯定回答了SPAA 2022 BA和CLUSTER 2022论文中提出的困难问题。我们观察到所计算的计划和循环通信图同样可用于约简、全广播和全约简,导致为这些问题开发了新的轮次最优算法。这些观察肯定回答了CLUSTER 2023论文中提出的开放问题。问题在于,将n个不可分割的数据块从给定的根处理器广播到具有完全双向、单端口通信能力的p个处理器的(子图)完全连接网络中。在此模型下,需要 个通信轮次。我们的新算法为网络中每个处理器计算接收和发送计划,计划大小为,确定每个通信轮次中新接收的数据块以及必须发送的已接收数据块。计划计算独立于每个处理器进行,无需通信。广播通信子图是一种易于计算的、定向的、-regular循环图,亦用于其他目的。我们展示了计划计算可在最优时间和空间 中完成,显著改进了之前 和 的结果。计划计算和广播算法易于实现,但正确性和复杂度并非显而易见。所计算的计划用于MPI(Message-Passing Interface)集合的新实现:MPI_Bcast、MPI_Allgatherv、MPI_Reduce和MPI_Reduce_scatter。给出了初步的实验结果。
引用
@article{arxiv.2407.18004,
title = {Optimal Broadcast Schedules in Logarithmic Time with Applications to Broadcast, All-Broadcast, Reduction and All-Reduction},
author = {Jesper Larsson Träff},
journal= {arXiv preprint arXiv:2407.18004},
year = {2024}
}
备注
arXiv admin note: substantial text overlap with arXiv:2312.11236