用于图表示学习的循环不变位置编码
机器学习
2023-12-01 v2
摘要
循环是图结构数据中的基本元素,并已被证明在增强图学习模型方面有效。为了将此类信息编码到图学习框架中,先前工作通常提取一种汇总量,从循环数量到更复杂的持续同调图摘要不等。然而,更详细的信息,例如哪些边被编码在一个循环中,尚未在图神经网络中使用。在本文中,我们朝填补这一空白迈出一步,提出了一个称为 CycleNet 的结构编码模块,该模块以置换不变的方式通过边结构编码来编码循环信息。为了高效编码所有循环的空间,我们从一个循环基(即生成循环空间的最小循环集合)出发,通过输入图的一维 Hodge Laplacian 的核来计算它。为了保证编码关于循环基的选择不变,我们受 Lim 等人提出的 BasisNet 启发,通过循环基的正交投影算子来编码循环信息。我们还开发了一个更高效的变体,但其要求输入图具有唯一最短循环基。为证明所提模块的有效性,我们提供了对其表达能力的若干理论理解。此外,我们通过一系列实验表明,由我们的 CycleNet 模块增强的网络在各种基准上优于多个现有 SOTA 模型。
引用
@article{arxiv.2311.14333,
title = {Cycle Invariant Positional Encoding for Graph Representation Learning},
author = {Zuoyu Yan and Tengfei Ma and Liangcai Gao and Zhi Tang and Chao Chen and Yusu Wang},
journal= {arXiv preprint arXiv:2311.14333},
year = {2023}
}
备注
Accepted as oral presentation in the Learning on Graphs Conference (LoG 2023)