中文

Spectral Invariant Learning for Dynamic Graphs under Distribution Shifts

机器学习 2024-03-11 v1 人工智能

摘要

动态图神经网络(DyGNNs)目前在处理动态图中固有的分布偏移方面面临困难。现有关于分布外设置下的 DyGNNs 工作仅关注时域,无法处理涉及频域分布偏移的情况。在本文中,我们发现存在在时域中不可观测但在频域中可观测的分布偏移情况,并首次提出在频域中研究动态图上的分布偏移。然而,这项研究提出了两个关键挑战:i) 捕获由频域中纠缠的各种频率分量驱动的不同图模式并非易事;ii) 如何处理发现的频谱模式的分布偏移尚不清楚。为了应对这些挑战,我们提出了分布偏移下动态图的频谱不变学习(SILD),该方法通过捕获和利用不变及可变频谱模式来处理动态图上的分布偏移。具体而言,我们首先设计了一个带有傅里叶变换的 DyGNN 以获取自我图轨迹谱,允许将混合的动态图模式转换为独立的频率分量。然后,我们开发了一个解耦谱掩码,从各种频率分量中过滤图动态,并发现不变和可变频谱模式。最后,我们提出了不变频谱滤波,鼓励模型依赖不变模式以在分布偏移下进行泛化。在合成和真实世界动态图数据集上的实验结果证明了我们的方法在分布偏移下的节点分类和链接预测任务中的优越性。

关键词

引用

@article{arxiv.2403.05026,
  title  = {Spectral Invariant Learning for Dynamic Graphs under Distribution Shifts},
  author = {Zeyang Zhang and Xin Wang and Ziwei Zhang and Zhou Qin and Weigao Wen and Hui Xue and Haoyang Li and Wenwu Zhu},
  journal= {arXiv preprint arXiv:2403.05026},
  year   = {2024}
}

备注

NeurIPS'23