非回溯图神经网络
机器学习
2024-09-26 v2 机器学习
摘要
图神经网络中著名的消息传递更新能够以局部且计算易处理的更新来表示大规模图。然而，这些更新存在回溯问题，即消息两次流经同一条边并重新访问先前访问过的节点。由于消息流的数量随更新次数呈指数增长，局部更新中的冗余阻碍了图神经网络准确识别对下游任务相关的特定消息流。本工作中，我们提出通过非回溯图神经网络（NBA-GNN）解决此类冗余问题，该网络在更新消息时不纳入来自先前访问节点的消息。我们从理论上研究了 NBA-GNN 如何缓解 GNN 的过压缩现象，并建立了 NBA-GNN 与非回溯更新在随机块模型恢复中优异性能之间的联系。此外，我们在长程图基准和转导节点分类问题上实证验证了 NBA-GNN 的有效性。
引用
@article{arxiv.2310.07430,
title = {Non-backtracking Graph Neural Networks},
author = {Seonghyun Park and Narae Ryu and Gahee Kim and Dongyeop Woo and Se-Young Yun and Sungsoo Ahn},
journal= {arXiv preprint arXiv:2310.07430},
year = {2024}
}