通过负采样诱导 GNN 层实现高效链接预测
机器学习
2024-12-31 v2 机器学习
摘要
用于链接预测的图神经网络(GNNs)大致可分为两大类。其一,\emph{节点式}架构为每个节点预计算独立嵌入,随后由简单解码器组合以进行预测。尽管推理时极为高效,但模型表达能力受限,导致参与候选边的同构节点可能无法区分,损害准确性。相反,\emph{边式}方法依赖边特定子图嵌入的形成来丰富成对关系的表示,消除同构节点的歧义以提升准确性,但模型复杂度增加。为更好地权衡二者,我们提出一种新颖的 GNN 架构,其\emph{前向传播}显式依赖于正边(如通常)与负边(本方法独有)二者,以得到更灵活却仍廉价的节点式嵌入。这是通过将嵌入本身重定义为某一前向传播特定能量函数的极小化子来实现的,该函数倾向于分离正负样本。值得注意的是,该能量不同于大多数现有链接预测模型共享的实际训练损失,在那些模型中对比样本仅影响\textit{反向传播}。大量实证评估表明,所得架构保留了节点式模型的推理速度,同时取得了与边式替代方案相竞争的精度。我们的代码发布于 https://github.com/yxzwang/SubmissionverOfYinYanGNN。
引用
@article{arxiv.2310.09516,
title = {Efficient Link Prediction via GNN Layers Induced by Negative Sampling},
author = {Yuxin Wang and Xiannian Hu and Quan Gan and Xuanjing Huang and Xipeng Qiu and David Wipf},
journal= {arXiv preprint arXiv:2310.09516},
year = {2024}
}
备注
Accepted to TKDE. Citation information: DOI 10.1109/TKDE.2024.3481015