基于ALAP调度的分块Cholesky分解调度完工时间下界
分布式、并行与集群计算
2015-10-20 v1
摘要
由于多核架构和大规模并行的出现,分块Cholesky分解算法近年来备受关注,常被从业者作为案例研究引用。它也在主流稠密线性代数库中实现。然而,我们注意到该算法并行性的理论研究目前匮乏。本文中,我们在无通信开销的并行同构模型背景下,给出关于分块Cholesky分解的新理论结果。我们对任务使用基于flop的权重。对于矩阵,我们知道分块Cholesky算法的关键路径为,且所有任务的权重为。在此背景下,我们证明少于个处理单元的调度无法在短于关键路径的时间内完成。作为对比,朴素下界给出。接着我们给出一种调度,其需要少于个处理单元以在关键路径时间内完成。作为对比,朴素调度给出。此外,给定固定数量处理单元,我们给出执行时间的下界如下: 后一公式的趣处在于中间项。我们的结果源于如下观察:当我们用ALAP(尽可能晚)启发式而非ASAP(尽可能早)启发式调度分块Cholesky分解时,其行为表现好得多。我们还提供密切匹配执行时间下界的调度启发式。我们相信理论结果将有助于实际调度研究。确实,我们的结果能更好地刻画实际调度相对于最优调度的质量。
引用
@article{arxiv.1510.05107,
title = {A Makespan Lower Bound for the Scheduling of the Tiled Cholesky Factorization based on ALAP scheduling},
author = {Willy Quach and Julien Langou},
journal= {arXiv preprint arXiv:1510.05107},
year = {2015}
}