利用标记技巧改进图神经网络在多节点任务上的表现
机器学习
2025-03-11 v2
摘要
本文研究使用图神经网络(GNNs)进行多节点表示学习,即学习一个包含多于一个节点的集合(如一条连边)的表示。现有 GNN 主要设计用于学习单节点表示。当用于多节点表示学习时,常见做法是直接聚合 GNN 得到的单节点表示。本文指出了这种方法的一个根本局限,即无法捕捉节点集中多个节点之间的依赖关系。一种直接的解决方案是区分目标节点与其他节点。形式化该思想,我们提出标记技巧(labeling trick),其在应用 GNN 之前根据节点与目标节点集的关系对图中节点进行标记,然后聚合标记图中得到的节点表示以得到多节点表示。除图中的节点集外,我们还将标记技巧推广到偏序集、子集与超图。实验验证标记技巧技术可提升 GNN 在各类任务上的表现,包括无向连边预测、有向连边预测、超边预测与子图预测。我们的工作解释了先前基于节点标记方法的优异性能,并为使用 GNN 进行多节点表示学习建立了理论基础。
引用
@article{arxiv.2304.10074,
title = {Improving Graph Neural Networks on Multi-node Tasks with the Labeling Trick},
author = {Xiyuan Wang and Pan Li and Muhan Zhang},
journal= {arXiv preprint arXiv:2304.10074},
year = {2025}
}