抗扰动的节点表示学习
机器学习
2023-05-08 v3 机器学习
摘要
近年来图神经网络(GNN)在节点表示学习中取得了显著性能。GNN 成功的一个关键因素是节点表示上的平滑性(smoothness)性质。尽管如此,大多数 GNN 模型对图输入上的扰动十分脆弱,可能学到不可靠的节点表示。本文研究如何在 GNN 中学习抗扰动的节点表示。具体而言,我们认为节点表示在输入轻微扰动下应保持稳定,且来自不同结构的节点表示应可区分,这两者分别称为节点表示的稳定性(stability)与可识别性(identifiability)。为此,我们提出一种称为抗扰动稳定性-可识别性 GNN(SIGNNAP)的新模型,以无监督方式学习可靠的节点表示。SIGNNAP 通过对比目标形式化稳定性与可识别性,并利用现有 GNN 骨干网络保持平滑性。所提方法是一个通用框架,可配备多种其他骨干模型(如 GCN、GraphSage 和 GAT)。在转导与归纳两种节点分类学习设定下六个基准上的大量实验证明了我们方法的有效性。代码与数据在线可用:~\url{https://github.com/xuChenSJTU/SIGNNAP-master-online}
引用
@article{arxiv.2008.11416,
title = {Learning Node Representations against Perturbations},
author = {Xu Chen and Yuangang Pan and Ivor Tsang and Ya Zhang},
journal= {arXiv preprint arXiv:2008.11416},
year = {2023}
}
备注
A new version of previous "Learning Robust Node Representations on Graphs"