检索增强图神经网络的实证研究
机器学习
2023-09-19 v4 人工智能
摘要
图神经网络（GNNs）是图表示学习的有效工具。大多数GNN依赖于一种称为消息传递的递归邻域聚合方案，因此其理论表达能力被限制在一阶Weisfeiler-Lehman检验（1-WL）。应对这一挑战的一种有效方法是显式检索一些带标注的示例用于增强GNN模型。尽管检索增强模型已在许多语言和视觉领域被证明有效，但检索增强GNN应用于图数据集时的效果如何仍是一个开放问题。受此启发，我们想探索检索思想如何帮助扩充图神经网络中学习到的有用信息，并设计了一种称为GRAPHRETRIEVAL的检索增强方案，该方案对图神经网络模型的选择无关。在GRAPHRETRIEVAL中，对于每个输入图，从已有数据库中检索相似图及其真实标签。因此它们可作为潜在的增强来完成各种图属性预测任务。我们在13个数据集上进行了全面实验，观察到GRAPHRETRIEVAL能够在现有GNN基础上实现显著提升。此外，我们的实证研究还表明，检索增强是缓解长尾标签分布问题的一个有前景的补救方法。
引用
@article{arxiv.2206.00362,
title = {An Empirical Study of Retrieval-enhanced Graph Neural Networks},
author = {Dingmin Wang and Shengchao Liu and Hanchen Wang and Bernardo Cuenca Grau and Linfeng Song and Jian Tang and Song Le and Qi Liu},
journal= {arXiv preprint arXiv:2206.00362},
year = {2023}
}
备注
Accepted by ECAI 2023