中文

SimMLP: 无监督地在图上训练 MLP

机器学习 2024-12-09 v3 人工智能 社会与信息网络

摘要

图神经网络 (GNNs) 已在各种图学习任务中展示了其有效性,但它们在推理过程中对邻域聚合的依赖给部署在延迟敏感的应用(如实时金融欺诈检测)中带来了挑战。为了解决这一限制,近期研究提出将教师 GNN 的知识蒸馏到基于节点内容训练的学生多层感知器 (MLPs) 中,旨在加速推理。然而,这些方法在推断未见过的节点时,往往未能充分探索结构信息。为此,我们引入了 SimMLP,一个用于在图上学习 MLP 的自监督框架,旨在将丰富的结构信息完全整合到 MLP 中。值得注意的是,SimMLP 是第一种在最优情况下能够实现与 GNN 等效的 MLP 学习方法。其核心思想是采用自监督学习来对齐由图上下文感知的 GNN 和邻域依赖无关的 MLP 编码的表示,从而将结构信息完全整合到 MLP 中。我们提供了全面的理论分析,基于互信息和归纳偏置证明了 SimMLP 与 GNN 之间的等效性,突显了 SimMLP 先进的结构学习能力。此外,我们在 20 个基准数据集上进行了广泛的实验,涵盖节点分类、链接预测和图分类,以展示 SimMLP 相对于最先进基线的优越性,特别是在涉及未见节点(例如,归纳和冷启动节点分类)且结构洞察至关重要的场景中。我们的代码可在以下链接获取:https://github.com/Zehong-Wang/SimMLP。

关键词

引用

@article{arxiv.2402.08918,
  title  = {SimMLP: Training MLPs on Graphs without Supervision},
  author = {Zehong Wang and Zheyuan Zhang and Chuxu Zhang and Yanfang Ye},
  journal= {arXiv preprint arXiv:2402.08918},
  year   = {2024}
}

备注

New Version: arXiv:2412.03864