消除计算冗余的子图图神经网络精确加速
人工智能
2024-12-25 v1
摘要
图神经网络（GNN）已成为图任务的流行框架。近期许多研究提出在每个图的众多子图上使用图卷积方法，称为子图图神经网络（subgraph GNN），以增强 GNN 区分非同构图的能力。为了最大化表达能力，子图 GNN 通常要求每个子图的大小等于原始图的大小。尽管其卓越的性能优异，但子图 GNN 面临巨大子图数量和子图大小带来的存储和计算效率挑战。为此本文引入 Ego-Nets-Fit-All（ENFA）模型，统一采用较小的 ego net 作为子图，从而在存储和计算效率方面取得更好的平衡，同时保证即使以整个图作为子图也能获得与原始子图 GNN 相同的输出。关键在于识别并消除子图之间的冗余计算。例如，节点 可能出现在多个子图中，但与所有子图的中心（子图之间的非对称部分）相距较远。因此，其在每个子图中进行的前几轮消息传递可以一次在原始图中计算，而不是在每个子图中多次计算。这种策略使 ENFA 能够以一种精确的方式加速子图 GNN，不同于以往的抽样方法往往会损失性能。广泛实验表明，与传统子图 GNN 相比，ENFA 可将存储空间降低 29.0% 至 84.5%，训练效率提升最高可达 1.66 倍。
引用
@article{arxiv.2412.18125,
title = {Exact Acceleration of Subgraph Graph Neural Networks by Eliminating Computation Redundancy},
author = {Qian Tao and Xiyuan Wang and Muhan Zhang and Shuxian Hu and Wenyuan Yu and Jingren Zhou},
journal= {arXiv preprint arXiv:2412.18125},
year = {2024}
}