中文

IGNN-Solver:用于隐式图神经网络的图神经求解器

机器学习 2025-02-19 v2

摘要

隐式图神经网络(IGNN)因单层具有强大的表达能力,最近在捕捉图中长程依赖方面展现出卓越的性能,同时有效缓解了过平滑问题。然而,IGNN依赖于计算昂贵的固定点迭代,导致显著的速度和可扩展性限制,阻碍其在大规模图上的应用。为实现IGNN的快速固定点求解,我们提出一种新型图神经求解器——IGNN-Solver,该求解器利用广义Anderson加速方法,由微型图神经网络参数化,并学习作为图依赖性时间过程的迭代更新。为提高在大规模图任务上的有效性,我们进一步整合了专为IGNN-Solver设计的稀疏化和存储压缩方法。广泛实验表明,IGNN-Solver在小规模和大规模任务上均显著加速推理,在不牺牲准确性的前提下实现1.5×1.5\times8×8\times的加速。随着图的规模增长,这一优势变得更为显著,促进了其在实际应用中的大规模部署。我们的代码已公开于https://github.com/landrarwolf/IGNN-Solver。

关键词

引用

@article{arxiv.2410.08524,
  title  = {IGNN-Solver: A Graph Neural Solver for Implicit Graph Neural Networks},
  author = {Junchao Lin and Zenan Ling and Zhanbo Feng and Jingwen Xu and Minxuan Liao and Feng Zhou and Tianqi Hou and Zhenyu Liao and Robert C. Qiu},
  journal= {arXiv preprint arXiv:2410.08524},
  year   = {2025}
}