用于更强大图神经网络的等变且稳定的位置编码
机器学习
2022-06-24 v5 社会与信息网络
摘要
图神经网络（GNN）在许多基于图的学习任务中展现出巨大优势，但在基于节点集合的任务（如链接/模体预测等）上往往无法准确预测。近期许多工作提出通过使用随机节点特征或节点距离特征来解决该问题。然而，它们要么收敛缓慢，要么预测不准确，要么复杂度高。在本工作中，我们重新审视允许使用由位置编码（PE）技术（如拉普拉斯特征映射、Deepwalk 等）给出的节点位置特征的 GNN。带有 PE 的 GNN 常受批评，因为它们无法泛化到未见过的图（归纳式）或不够稳定。在此，我们以原则性方式研究这些问题，并提出一种可证明的解决方案——一类称为 PEG 的 GNN 层，并给出严谨的数学分析。PEG 使用独立通道来更新原始节点特征和位置特征。PEG 对原始节点特征施加置换等变性，同时对位置特征施加 （正交群）等变性，其中 为所用位置特征的维度。在 8 个真实网络上的大量链接预测实验证明了 PEG 在泛化性和可扩展性方面的优势。
引用
@article{arxiv.2203.00199,
title = {Equivariant and Stable Positional Encoding for More Powerful Graph Neural Networks},
author = {Haorui Wang and Haoteng Yin and Muhan Zhang and Pan Li},
journal= {arXiv preprint arXiv:2203.00199},
year = {2022}
}
备注
ICLR 2022; The revised version updates some notation mistakes and discusses on the stability of PE in different settings; code available at https://github.com/Graph-COM/PEG