非卷积图神经网络
机器学习
2024-10-01 v3 人工智能
摘要
重新思考基于卷积的图神经网络(GNN)——它们以表达能力有限、过度平滑和过度挤压为特征,并且需要专门的稀疏核以实现高效计算。这里,我们设计了一个完全不含卷积算子的简单图学习模块,即随机游走统一记忆(RUM)神经网络,其中 RNN 沿终止于每个节点的随机游走合并拓扑和语义图特征。通过关联 RNN 行为和图拓扑的丰富文献,我们在理论上证明并在实验上验证了 RUM 缓解了上述症状,并且比 Weisfeiler-Lehman(WL)同构测试更具表达能力。在各种节点级和图级分类与回归任务上,RUM 不仅取得了具有竞争力的性能,而且具有鲁棒性、内存高效、可扩展性,并且比最简单的卷积 GNN 更快。
引用
@article{arxiv.2408.00165,
title = {Non-convolutional Graph Neural Networks},
author = {Yuanqing Wang and Kyunghyun Cho},
journal= {arXiv preprint arXiv:2408.00165},
year = {2024}
}