中文

以对数时间计算最优广播计划及其在广播、全广播、约简和全约简中的应用

分布式、并行与集群计算 2024-07-29 v2

摘要

我们给出针对消息传递并行计算系统的轮次最优广播计划的 O(logp)O(\log p) 时间(每个处理器)算法。这肯定回答了SPAA 2022 BA和CLUSTER 2022论文中提出的困难问题。我们观察到所计算的计划和循环通信图同样可用于约简、全广播和全约简,导致为这些问题开发了新的轮次最优算法。这些观察肯定回答了CLUSTER 2023论文中提出的开放问题。问题在于,将n个不可分割的数据块从给定的根处理器广播到具有完全双向、单端口通信能力的p个处理器的(子图)完全连接网络中。在此模型下,需要 n1+log2pn-1+\lceil\log_2 p\rceil 个通信轮次。我们的新算法为网络中每个处理器计算接收和发送计划,计划大小为log2p\lceil\log_2 p\rceil,确定每个通信轮次中新接收的数据块以及必须发送的已接收数据块。计划计算独立于每个处理器进行,无需通信。广播通信子图是一种易于计算的、定向的、log2p\lceil\log_2 p\rceil-regular循环图,亦用于其他目的。我们展示了计划计算可在最优时间和空间 O(logp)O(\log p) 中完成,显著改进了之前 O(plog2p)O(p\log^2 p)O(log3p)O(\log^3 p) 的结果。计划计算和广播算法易于实现,但正确性和复杂度并非显而易见。所计算的计划用于MPI(Message-Passing Interface)集合的新实现:MPI_Bcast、MPI_Allgatherv、MPI_Reduce和MPI_Reduce_scatter。给出了初步的实验结果。

关键词

引用

@article{arxiv.2407.18004,
  title  = {Optimal Broadcast Schedules in Logarithmic Time with Applications to Broadcast, All-Broadcast, Reduction and All-Reduction},
  author = {Jesper Larsson Träff},
  journal= {arXiv preprint arXiv:2407.18004},
  year   = {2024}
}

备注

arXiv admin note: substantial text overlap with arXiv:2312.11236