使用图神经网络学习高效位置编码
机器学习
2025-02-04 v1
摘要
位置编码（PE）对于有效的图表示学习至关重要，因为它们提供了图神经网络（GNN）中位置感知能力，增加了图神经网络的表达能力。然而，由于缺乏节点规范顺序和图的规模，设计强大且高效的图PE具有显著挑战。在本工作中，我们识别出图PE应满足的四个关键属性：稳定性、表达力、可扩展性和通用性。我们发现，现有的基于特征向量的PE方法往往难以同时满足上述各项要求。为此，我们引入PEARL，这是一个用于图的可学习PE框架。我们的主要洞察是，消息传递GNN作为特征向量的非线性映射，从而可以设计GNN架构来生成强大且高效的PE。关键挑战在于以既具表达力又具有置换等变性的方式初始化节点属性。我们通过对节点输入采用随机节点输入或标准基向量来实现这一点，从而释放消息传递操作的表达能力，同时采用统计池化函数以保持置换等变性。我们的分析表明，PEARL以线性复杂度近似等变函数，严格建立了其稳定性和高度表达力。实验评估表明，PEARL优于基于特征向量的PE的轻量版本，性能与完整的特征向量-based PE相当，但复杂度低一个或两个数量级。我们的代码已公开：https://github.com/ehejin/Pearl-PE。
引用
@article{arxiv.2502.01122,
title = {Learning Efficient Positional Encodings with Graph Neural Networks},
author = {Charilaos I. Kanatsoulis and Evelyn Choi and Stephanie Jegelka and Jure Leskovec and Alejandro Ribeiro},
journal= {arXiv preprint arXiv:2502.01122},
year = {2025}
}