DyGMamba:用于连续时间动态图的高效长期时序依赖建模
机器学习
2025-06-09 v4 人工智能
摘要
学习连续时间动态图(CTDGs)的有用表示具有挑战性,因为需要同时跨越长时的节点交互历史并把握细微的时序细节。特别是,出现两个问题:(1)编码更长的历史需要更多的计算资源,因此对于 CTDG 模型而言,保持低的计算复杂度至关重要以确保效率;(2)同时,需要更强大的模型来识别和选择来自更长历史中最关键的时序信息。为此,我们提出一种名为 DyGMamba 的 CTDG 表示学习模型,该模型源自流行的 Mamba 状态空间模型(SSM)。DyGMamba 首先利用节点级 SSM 对历史节点交互序列进行编码。随后,采用时间级 SSM 来挖掘历史图中隐藏的时序模式,其输出用于动态选择交互历史中的关键信息。我们在动态链接预测任务上对 DyGMamba 进行了实验验证。结果表明,我们的模型在大多数情况下实现了最先进的性能。DyGMamba 还在计算资源方面保持高效,使得在有限的计算预算下能够捕获长时序依赖。
引用
@article{arxiv.2408.04713,
title = {DyGMamba: Efficiently Modeling Long-Term Temporal Dependency on Continuous-Time Dynamic Graphs with State Space Models},
author = {Zifeng Ding and Yifeng Li and Yuan He and Antonio Norelli and Jingcheng Wu and Volker Tresp and Michael Bronstein and Yunpu Ma},
journal= {arXiv preprint arXiv:2408.04713},
year = {2025}
}
备注
Accepted to TMLR