无监督训练图上的多层感知器

图神经网络 (GNN) 在各种图学习任务中展现出良好的效果，但其在推理时依赖邻域聚合的特性给部署于延迟敏感型应用（如实时金融欺诈检测）带来了挑战。为此，最近的研究提出将教师 GNN 蒸馏知识 distilled into student 多层感知器 (MLP)，后者在节点内容上进行训练，以加快推理速度。然而，这些方法往往不充分地探索在推断未见节点时的结构信息。为此，我们引入 SimMLP，一种用于学习图上 MLP 的自监督框架，旨在充分整合丰富的结构信息。值得注意的是，SimMLP 是首个能够在最优情况下等价于 GNNs 的 MLP 学习方法。其核心思想是采用自监督学习对齐由图上下文感知 GNN 编码的表示与无邻域依赖的 MLP 编码的表示，从而充分整合结构信息。我们提供了详尽的理论分析，表明 SimMLP 与 GNNs 在互信息和归纳偏置基础上等价，凸显了 SimMLP 在结构学习方面的先进能力。此外，我们在 20 个基准数据集上进行大量实验，涵盖节点分类、链接预测和图分类，展示了 SimMLP 在包含未见节点（如归纳节点分类和冷启动节点分类）等结构见解至关重要的场景中超越最新基线的优势。我们的代码已公开：https://github.com/Zehong-Wang/SimMLP。