IGNN-Solver:用于隐式图神经网络的图神经求解器
机器学习
2025-02-19 v2
摘要
隐式图神经网络(IGNN)因单层具有强大的表达能力,最近在捕捉图中长程依赖方面展现出卓越的性能,同时有效缓解了过平滑问题。然而,IGNN依赖于计算昂贵的固定点迭代,导致显著的速度和可扩展性限制,阻碍其在大规模图上的应用。为实现IGNN的快速固定点求解,我们提出一种新型图神经求解器——IGNN-Solver,该求解器利用广义Anderson加速方法,由微型图神经网络参数化,并学习作为图依赖性时间过程的迭代更新。为提高在大规模图任务上的有效性,我们进一步整合了专为IGNN-Solver设计的稀疏化和存储压缩方法。广泛实验表明,IGNN-Solver在小规模和大规模任务上均显著加速推理,在不牺牲准确性的前提下实现至的加速。随着图的规模增长,这一优势变得更为显著,促进了其在实际应用中的大规模部署。我们的代码已公开于https://github.com/landrarwolf/IGNN-Solver。
关键词
引用
@article{arxiv.2410.08524,
title = {IGNN-Solver: A Graph Neural Solver for Implicit Graph Neural Networks},
author = {Junchao Lin and Zenan Ling and Zhanbo Feng and Jingwen Xu and Minxuan Liao and Feng Zhou and Tianqi Hou and Zhenyu Liao and Robert C. Qiu},
journal= {arXiv preprint arXiv:2410.08524},
year = {2025}
}