演化图中的时间泛化估计

Bin Lu; Tingyan Ma; Xiaoying Gan; Xinbing Wang; Yunqiang Zhu; Chenghu Zhou; Shiyu Liang

演化图中的时间泛化估计

机器学习 2024-04-09 v1 人工智能

作者: Bin Lu , Tingyan Ma , Xiaoying Gan , Xinbing Wang , Yunqiang Zhu , Chenghu Zhou , Shiyu Liang

摘要

图神经网络（GNN）广泛应用于各个领域，但随着图的演化，它们往往难以保持准确的表示。我们从理论上建立了一个下界，证明在温和条件下，表示失真随时间不可避免地发生。为了在部署后无需人工标注的情况下估计时间失真，一种朴素的方法是在部署前预训练一个循环模型（如RNN），之后使用该模型，但估计效果远不理想。在本文中，我们从信息论角度分析表示失真，并将其主要归因于演化过程中特征提取不准确。因此，我们引入了Smart，一种简单有效的基线方法，通过自监督图重构增强自适应特征提取器。在合成随机图中，我们进一步改进了先前的下界，以显示随时间不可避免的失真，并实验观察到Smart实现了良好的估计性能。此外，我们观察到Smart在四个真实世界演化图上始终表现出出色的泛化估计。消融研究强调了图重构的必要性。例如，在OGB-arXiv数据集上，估计指标MAPE从2.19%恶化到8.00%（无重构时）。

关键词

图神经网络演化图时间泛化表示失真自监督图重构

引用

@article{arxiv.2404.04969,
  title  = {Temporal Generalization Estimation in Evolving Graphs},
  author = {Bin Lu and Tingyan Ma and Xiaoying Gan and Xinbing Wang and Yunqiang Zhu and Chenghu Zhou and Shiyu Liang},
  journal= {arXiv preprint arXiv:2404.04969},
  year   = {2024}
}

备注

Published as a conference paper at ICLR 2024

演化图中的时间泛化估计

摘要

关键词

引用

备注

相关论文