中文

用于图神经网络的谱贪心核心集

机器学习 2024-05-28 v1 人工智能 机器学习

摘要

大规模图在节点分类任务中的普遍存在严重阻碍了图神经网络 (GNN) 的现实应用。节点采样、图粗化和数据集压缩是提高数据效率的有效策略。然而,由于图节点的相互依赖性,选择数据样本子集的核心集选择尚未成功应用于加速大型图上的 GNN 训练,需要特殊处理。本文研究用于 GNN 的图核心集,并通过基于谱嵌入选择自我图(即节点周围的邻域子图)来避免相互依赖问题。我们将 GNN 的核心集选择问题分解为两个阶段:广泛分布的自我图的粗选和多样化其拓扑结构的精选。我们设计了一种贪心算法来近似优化这两个目标。我们的谱贪心图核心集 (SGGC) 可扩展至具有数百万节点的图,无需模型预训练,并适用于低同质性图。在十个数据集上的大量实验表明,SGGC 以巨大优势优于其他核心集方法,在各种 GNN 架构上具有良好的泛化能力,并且比图压缩快得多。

关键词

引用

@article{arxiv.2405.17404,
  title  = {Spectral Greedy Coresets for Graph Neural Networks},
  author = {Mucong Ding and Yinhan He and Jundong Li and Furong Huang},
  journal= {arXiv preprint arXiv:2405.17404},
  year   = {2024}
}