HighwayGraph:建模长距离节点关系以改进通用图神经网络
机器学习
2020-05-19 v2 计算与语言
社会与信息网络
机器学习
摘要
图神经网络(GNNs)是处理图结构数据的高效方法。建模长距离节点关系对于 GNN 训练与应用至关重要。然而,由于信息传播的层数有限,传统 GNN 在建模长距离节点关系方面表现不佳。现有研究侧重于构建深层 GNN 架构,其面临过平滑问题且无法建模特别长距离的节点关系。为解决该问题,我们提出仅依靠浅层 GNN 架构并通过两种方案来建模长距离节点关系:(1)通过学习预测节点对关系进行隐式建模;(2)通过在潜在具有相同标签的节点间添加边进行显式建模。为结合我们的两种方案,我们提出了一种名为 HighwayGraph 的模型无关训练框架,其通过从训练集采样节点对并采用自训练方法来克服标注节点不足的难题。大量实验结果表明,我们的 HighwayGraph 在三个基准数据集上相对于四种代表性 GNN 取得了持续且显著的改进。
引用
@article{arxiv.1911.03904,
title = {HighwayGraph: Modelling Long-distance Node Relations for Improving General Graph Neural Network},
author = {Deli Chen and Xiaoqian Liu and Yankai Lin and Peng Li and Jie Zhou and Qi Su and Xu Sun},
journal= {arXiv preprint arXiv:1911.03904},
year = {2020}
}
备注
8 pages