中文

KAGNNs:Kolmogorov-Arnold 网络遇见图学习

机器学习 2025-03-07 v4

摘要

近年来,图神经网络(GNN)已成为学习节点和图表示的事实标准工具。大多数 GNN 通常由一序列邻域聚合(即消息传递)层组成,其中每个节点的表示基于其邻居的表示进行更新。通过采用求和聚合器和用于特征变换的多层感知机(MLP),才能获得最具表达力的消息传递 GNN,因其普遍逼近能力。然而,近期 MLP 的局限性促使引入另一族普遍逼近器——Kolmogorov-Arnold 网络(KAN),其依赖于不同的表示定理。在本文中,我们比较了 KAN 与 MLP 在图学习任务中的性能。我们实现了三个新的 KAN-based GNN 层,分别灵感来自 GCN、GAT 和 GIN 层。我们评估了两种不同的 KAN 实现方式,使用两种不同的基础函数族,即 B 样条和径向基函数。我们在节点分类、链路预测、图分类和图回归数据集上进行了大量实验。我们的结果表明,KAN 在本文研究的所有任务上均与 MLP 持平或表现更好。我们还展示了基于 RBF 的 KAN 的规模和训练速度仅略高于 MLP,这使得它们成为可行的替代方案。代码可在 https://github.com/RomanBresson/KAGNN 获取。

关键词

引用

@article{arxiv.2406.18380,
  title  = {KAGNNs: Kolmogorov-Arnold Networks meet Graph Learning},
  author = {Roman Bresson and Giannis Nikolentzos and George Panagopoulos and Michail Chatzianastasis and Jun Pang and Michalis Vazirgiannis},
  journal= {arXiv preprint arXiv:2406.18380},
  year   = {2025}
}