具有可学习结构与位置表示的图神经网络
机器学习
2022-02-11 v2
摘要
图神经网络（GNN）已成为图的标准学习架构。GNN 已被应用于从量子化学、推荐系统到知识图谱和自然语言处理的众多领域。任意图的一个主要问题是缺乏节点的规范位置信息，这降低了 GNN 区分同构节点和其他图对称性的表示能力。解决此问题的一种方法是引入节点的位置编码（PE），并将其注入输入层，如在 Transformer 中那样。可能的图 PE 是 Laplacian 特征向量。在这项工作中，我们提议将结构表示和位置表示解耦，使网络更容易学习这两个基本属性。我们引入了一种新颖的通用架构，我们称之为 LSPE（可学习结构与位置编码）。我们研究了几种稀疏和全连接（类 Transformer）的 GNN，并观察到在分子数据集上，当对两类 GNN 都考虑可学习 PE 时，性能提升了 1.79% 至 64.14%。
引用
@article{arxiv.2110.07875,
title = {Graph Neural Networks with Learnable Structural and Positional Representations},
author = {Vijay Prakash Dwivedi and Anh Tuan Luu and Thomas Laurent and Yoshua Bengio and Xavier Bresson},
journal= {arXiv preprint arXiv:2110.07875},
year = {2022}
}
备注
Code at https://github.com/vijaydwivedi75/gnn-lspe