可证明具表达力的时序图网络
机器学习
2022-10-03 v1
摘要
时序图网络(TGNs)作为嵌入动态交互的模型已获得重要地位,但人们对其理论基础的了解甚少。我们建立了关于两类主要 TGNs——聚合时序游走的一类(WA-TGNs)和用循环记忆模块增强局部消息传递的一类(MP-TGNs)——的表达能力与局限的基本结果。具体而言,新颖的构造揭示了 MP-TGNs 和 WA-TGNs 的不足,证明这两类互不包含。我们将 1-WL(Weisfeiler-Leman)测试扩展到时序图,并表明最强大的 MP-TGNs 应使用单射更新,因为此时它们变得与时序 WL 一样具表达力。此外,我们表明足够深的 MP-TGNs 无法从记忆中获益,且 MP/WA-TGNs 无法计算如围长等图属性。这些理论见解引导我们提出 PINT——一种利用单射时序消息传递和相对位置特征的新架构。重要的是,PINT 被证明比 MP-TGNs 和 WA-TGNs 都更具表达力。PINT 在多个真实世界基准上显著优于现有 TGNs。
引用
@article{arxiv.2209.15059,
title = {Provably expressive temporal graph networks},
author = {Amauri H. Souza and Diego Mesquita and Samuel Kaski and Vikas Garg},
journal= {arXiv preprint arXiv:2209.15059},
year = {2022}
}
备注
Accepted to NeurIPS 2022