中文

通过随机路径图序列实现快速高效的 GNN 训练

机器学习 2025-02-25 v4

摘要

我们提出 GERN,一种基于有效电阻(谱图论中的标准工具)用于节点分类任务中训练 GNN 的新颖可扩展框架。我们的方法在一组随机生成树(被适当变换为路径图)的序列上逐步精炼 GNN 权重,这些路径图尽管简单,却显示出保留了原始输入图的基本拓扑与节点信息。这些路径图的稀疏特性大幅减轻了 GNN 训练的计算负担。这不仅增强了可扩展性,也提升了后续测试阶段的精度,尤其在小型训练集情形下——此类情形具有重大实际意义,因为许多真实场景中标号难以获取。在这些设定下,我们的框架取得了极好的结果,因为它有效抵消了训练集较小时过拟合引起的训练退化。我们的方法还解决了诸如过度压缩与过度平滑等常见问题,同时避免了欠可达现象。尽管我们的框架灵活且可部署于多种类型 GNN,本文聚焦于图卷积网络,并在多个真实世界图基准上进行了广泛实验研究,相较于大量代表性基线同时实现了训练速度与测试精度的提升。

关键词

引用

@article{arxiv.2306.04828,
  title  = {Fast and Effective GNN Training through Sequences of Random Path Graphs},
  author = {Francesco Bonchi and Claudio Gentile and Francesco Paolo Nerini and André Panisson and Fabio Vitale},
  journal= {arXiv preprint arXiv:2306.04828},
  year   = {2025}
}

备注

16 pages, 8 figures; Accepted at KDD 2025