中文

基于ALAP调度的分块Cholesky分解调度完工时间下界

分布式、并行与集群计算 2015-10-20 v1

摘要

由于多核架构和大规模并行的出现,分块Cholesky分解算法近年来备受关注,常被从业者作为案例研究引用。它也在主流稠密线性代数库中实现。然而,我们注意到该算法并行性的理论研究目前匮乏。本文中,我们在无通信开销的并行同构模型背景下,给出关于分块Cholesky分解的新理论结果。我们对任务使用基于flop的权重。对于t×tt\times t矩阵,我们知道分块Cholesky算法的关键路径为9t109t-10,且所有任务的权重为t3t^3。在此背景下,我们证明少于0.185t20.185 t^2个处理单元的调度无法在短于关键路径的时间内完成。作为对比,朴素下界给出0.11t20.11 t^2。接着我们给出一种调度,其需要少于0.25t2+0.16t+30.25 t^2+0.16t+3个处理单元以在关键路径时间内完成。作为对比,朴素调度给出0.50t20.50 t^2。此外,给定固定数量处理单元pp,我们给出执行时间的下界如下:max(t3p,t3p3t2p+62p7,9t10).\max( \frac{t^{3}}{p}, \frac{t^{3}}{p} - 3\frac{t^2}{p} + 6\sqrt{2p} - 7 , 9t-10). 后一公式的趣处在于中间项。我们的结果源于如下观察:当我们用ALAP(尽可能晚)启发式而非ASAP(尽可能早)启发式调度分块Cholesky分解时,其行为表现好得多。我们还提供密切匹配执行时间下界的调度启发式。我们相信理论结果将有助于实际调度研究。确实,我们的结果能更好地刻画实际调度相对于最优调度的质量。

关键词

引用

@article{arxiv.1510.05107,
  title  = {A Makespan Lower Bound for the Scheduling of the Tiled Cholesky Factorization based on ALAP scheduling},
  author = {Willy Quach and Julien Langou},
  journal= {arXiv preprint arXiv:1510.05107},
  year   = {2015}
}