基于单阶段消息传递的超图节点表示学习
机器学习
2023-12-04 v1 信息检索
摘要
超图作为一种具有表现力且通用的结构，已引起多个研究领域的广泛关注。大多数现有的超图节点表示学习技术基于图神经网络，因此采用两阶段消息传递范式（即节点->超边->节点）。该范式仅关注局部信息传播，未能有效考虑全局信息，导致表示不够最优。我们对具有代表性的两阶段消息传递方法的理论分析表明，从数学上看，它们通过对超边的不同局部消息传递方式进行建模，并可统一为单阶段消息传递（即节点->节点）。然而，它们仍仅对局部信息进行建模。受此理论分析启发，我们提出一种新颖的单阶段消息传递范式，对超图的全局与局部信息传播同时进行建模。我们将该范式集成到 HGraphormer 中，这是一个基于 Transformer 的超图节点表示学习框架。HGraphormer 通过结合注意力矩阵与超图拉普拉斯算子，将超图结构信息（局部信息）注入 Transformer（全局信息）。大量实验表明，在半监督超节点分类任务上，HGraphormer 在五个代表性基准数据集上优于近期超图学习方法，取得了新的最优（state-of-the-art）性能，准确率提升介于 2.52% 与 6.70% 之间。我们的代码与数据集已公开。
引用
@article{arxiv.2312.00336,
title = {Hypergraph Node Representation Learning with One-Stage Message Passing},
author = {Shilin Qu and Weiqing Wang and Yuan-Fang Li and Xin Zhou and Fajie Yuan},
journal= {arXiv preprint arXiv:2312.00336},
year = {2023}
}
备注
11 pages