DiP-GNN：图神经网络的判别式预训练
机器学习
2022-09-16 v1
摘要
图神经网络（GNN）预训练方法已被提出以增强 GNN 的能力。具体而言，首先在大尺度无标签图上预训练一个 GNN，然后在独立的小规模有标签图上对其进行微调以用于下游应用，例如节点分类。一种流行的预训练方法是掩蔽一部分边，并训练 GNN 恢复它们。然而，这种生成式方法存在图不匹配问题。即，输入 GNN 的被掩蔽图偏离了原始图。为缓解此问题，我们提出了 DiP-GNN（图神经网络的判别式预训练）。具体而言，我们训练一个生成器来恢复被掩蔽边的身份，同时训练一个判别器来区分生成的边与原始图的边。在我们的框架中，判别器看到的图更好地匹配原始图，因为生成器能恢复一部分被掩蔽的边。在大规模同构与异构图上的大量实验证明了所提框架的有效性。
引用
@article{arxiv.2209.07499,
title = {DiP-GNN: Discriminative Pre-Training of Graph Neural Networks},
author = {Simiao Zuo and Haoming Jiang and Qingyu Yin and Xianfeng Tang and Bing Yin and Tuo Zhao},
journal= {arXiv preprint arXiv:2209.07499},
year = {2022}
}