共轭梯度法的基于算法的检查点-恢复
分布式、并行与集群计算
2020-07-09 v1
摘要
随着计算机达到 exascale 及更高规模,故障发生率将会上升。该问题的解决方案是活跃的研究课题。我们专注于使预条件共轭梯度(PCG)求解器对节点故障具有弹性的策略,具体而言是精确状态重构(ESR)方法,其利用了 PCG 中的冗余性。降低冗余信息的存储频率可减轻运行时开销。然而,在节点故障后,求解器必须从存储了冗余信息的最后一次迭代重启,这增加了恢复开销。该表述凸显了此方法类似于检查点-重启(CR)。因此,这一我们称为周期性存储 ESR(ESRP)的方法可被视为一种基于算法的检查点-重启。状态是隐式存储的,通过利用算法固有的冗余,而非像 CR 中那样显式存储。与 CR 相比,我们还最小化了需存储和检索的数据量,但重构求解器状态需要额外计算。本文中,我们描述了将 ESR 改造为 ESRP 所需的修改,并进行了实验评估。我们将 ESRP 与既有的 ESR 及应用级内存中 CR 进行了实验比较。我们的结果证实,无论在无故障情形还是引入节点故障时,ESR 的开销均显著降低。在前一种情形中,ESRP 的开销通常低于 CR。但若发生节点故障,CR 更快。我们主张这些差异可通过实现更合适的预条件子来缓解。
引用
@article{arxiv.2007.04066,
title = {Algorithm-Based Checkpoint-Recovery for the Conjugate Gradient Method},
author = {Carlos Pachajoa and Christina Pacher and Markus Levonyak and Wilfried N. Gansterer},
journal= {arXiv preprint arXiv:2007.04066},
year = {2020}
}
备注
11 pages, 3 figures, 4 tables