面向 MPI 的实用透明检查点：拓扑排序方法
机器学习
2025-07-22 v2 风险管理
摘要
MPI 是并行计算中集群计算机事实上的标准。对于任何需要通过链式连接受限资源分配来执行的时间受限作业的软件弹性策略而言，检查点都是重要组成部分。本文解决了一个古老问题：为 MPI 提供一种实用且通用的透明检查点算法，既高效又与大多数最新网络软件兼容。透明检查点因其通用性和对大多数 MPI 应用程序开发者而言的易用性而具有吸引力。过去十年里，针对 MPI 的透明检查点方法面临两个困难问题：(i) 依赖于特定的 MPI 实现绑定到特定的网络技术；(ii) 未能证明足够低的运行时开销。问题 (i)（网络依赖性）已于 2019 年通过 MANA 引入分离进程而得到解决。问题 (ii)（高效运行时开销）在本工作中得到解决。本文提出一种方法，规避了这些限制，采用一种新颖的拓扑排序算法来算法性地确定一个安全的未来同步点。该算法适用于阻塞和非阻塞的集合通信在 MPI 中。我们通过微基准测试以及五个真实世界的 MPI 应用程序展示了该方法的有效性和可扩展性，其中包括广泛使用的 VASP (Vienna Ab Initio Simulation Package)，该软件在劳伦斯伯克利国家实验室的 Perlmutter 超级计算机上承担了 11% 的工作负载。VASP 之前被引用为检查点编程的特殊挑战，部分原因是其多算法代码。
引用
@article{arxiv.2408.02217,
title = {Climate-Driven Doubling of U.S. Maize Loss Probability: Interactive Simulation with Neural Network Monte Carlo},
author = {A Samuel Pottinger and Lawson Connor and Brookie Guzder-Williams and Maya Weltman-Fahs and Nick Gondek and Timothy Bowles},
journal= {arXiv preprint arXiv:2408.02217},
year = {2025}
}
备注
20 page main document followed by supplemental