Hi-GMAE：层次化图掩码自编码器
机器学习
2026-03-19 v2
摘要
图掩码自编码器（GMAE）已成为处理图结构数据的最近的自监督学习方法之一。现有的 GMAE 模型主要关注重建节点级信息，归类为单尺度 GMAE。这一方法虽在某些情境下有效，但往往忽视了许多真实图中所固有的复杂层次结构。例如，分子图呈现明确的层次组织，如原子-功能基团-分子结构。因此，单尺度 GMAE 模型无法有效融合这些层次关系，导致捕获关键高层图信息能力不足，表现显著下降。为此，我们提出层次化图掩码自编码器（Hi-GMAE），这是一种新型多尺度 GMAE 框架，用于处理图中的层次结构。首先，Hi-GMAE 通过图池化构建多尺度图层次结构，使可跨不同细粒度水平探索图结构。为确保跨这些尺度的子图掩码一致性，我们提出一种从粗到细的方法，即在最粗尺度启动掩码，然后逐步反投影到更细尺度。此外，我们将渐进恢复策略与掩码过程集成，以缓解完全掩码子图所带来的学习挑战。我们在 17 个图数据集上进行的实验，覆盖两个图学习任务，始终显示 Hi-GMAE 在全面捕获图信息方面优于 29 所获奖自监督竞争者。
引用
@article{arxiv.2405.10642,
title = {Hi-GMAE: Hierarchical Graph Masked Autoencoders},
author = {Chuang Liu and Zelin Yao and Xueqi Ma and Mukun Chen and Luzhi Wang and Jia Wu and Wenbin Hu},
journal= {arXiv preprint arXiv:2405.10642},
year = {2026}
}
备注
12 pages, 9 figures. Accepted by WWW 2026