PiPAD：GPU 上动态图神经网络的流水线并行训练

动态图神经网络（DGNN）已广泛应用于链接预测、疫情预测等多种实际场景，以从动态图中捕获静态结构信息与时间特征。DGNN 兼具时间依赖与非时间依赖组件，展现出可观的并行计算与数据复用潜力，但在规范的逐图训练模式下存在严重的内存访问低效与数据传输开销。为应对这些挑战，我们提出 PiPAD，一种面向 GPU 上端到端性能优化的$\underline{\textbf{Pi}}pelined$（流水线）与 $\underline{\textbf{PA}}rallel$（并行） $\underline{\textbf{D}}GNN$（动态图神经网络）训练框架。PiPAD 从算法与运行时层面整体重构了从数据组织到计算方式的整体训练范式。PiPAD 能够并行处理多个图快照，消除不必要的数据传输并缓解内存访问低效，从而提升整体性能。我们在多个数据集上的评估显示，PiPAD 在三种代表性模型上相较最先进的 DGNN 框架实现了 $1.22\times$-$9.57\times$ 的加速。