HoGA：基于多样性感知 k 跳采样的高阶图注意力
机器学习
2025-11-27 v3
摘要
图在许多现实世界系统中建模了潜在变量关系，而消息传递神经网络（MPNN）被广泛用于为下游任务学习此类结构。尽管基于边的 MPNN 能有效捕获局部交互，但其表达能力在理论上是有界的，限制了对高阶关系的发现。我们引入了高阶图注意力（HoGA）模块，该模块通过对子图进行采样以最大化特征向量之间的多样性，从而构建一个 k 阶注意力矩阵。与现有贪婪地重采样相似 k 阶关系的高阶注意力方法不同，HoGA 针对高阶拓扑中的不同模态，减少了冗余并扩展了捕获的子结构范围。应用于两个单跳注意力模型时，HoGA 在所有基准节点分类数据集上实现了至少 5% 的准确率提升，并在八个数据集中的六个上优于近期的基线方法。代码可在 https://github.com/TB862/Higher_Order 获取。
引用
@article{arxiv.2411.12052,
title = {HoGA: Higher-Order Graph Attention via Diversity-Aware k-Hop Sampling},
author = {Thomas Bailie and Yun Sing Koh and Karthik Mukkavilli},
journal= {arXiv preprint arXiv:2411.12052},
year = {2025}
}
备注
In Proceedings of the Nineteenth ACM International Conference on Web Search and Data Mining (WSDM 26)