具有解耦干预与不变性促进的的分布外泛化动态图神经网络
机器学习
2024-03-11 v2
摘要
动态图神经网络（DyGNNs）通过利用图结构与时序动态已展现出强大的预测能力。然而，现有 DyGNNs 无法处理分布偏移，而后者在动态图中天然存在，主要因为 DyGNNs 所利用的模式在分布偏移下可能相对于标签发生变化。本文中，我们提出具有不变性促进的基于解耦干预的动态图注意力网络（I-DIDA），通过发现并利用不变模式（即预测能力在分布偏移下稳定的结构与特征）来处理动态图中的时空分布偏移。具体地，我们首先提出一个解耦时空注意力网络以捕获易变与不变模式。利用解耦后的模式，我们设计了一种时空干预机制以创建多个干预分布，以及一个环境推断模块以推断潜在时空环境，并在这些干预分布与环境间最小化预测方差，从而使我们的模型能够基于具有稳定预测能力的不变模式在分布偏移下做出预测。大量实验证明了我们的方法在分布偏移下相对于最先进基线的优越性。据我们所知，我们的工作是动态图中时空分布偏移的首项研究。
引用
@article{arxiv.2311.14255,
title = {Out-of-Distribution Generalized Dynamic Graph Neural Network with Disentangled Intervention and Invariance Promotion},
author = {Zeyang Zhang and Xin Wang and Ziwei Zhang and Haoyang Li and Wenwu Zhu},
journal= {arXiv preprint arXiv:2311.14255},
year = {2024}
}