中文

GKAN:图科尔莫戈罗夫-阿诺德网络

机器学习 2024-06-11 v1 人工智能 机器学习

摘要

我们引入了图科尔莫戈罗夫-阿诺德网络(GKAN),这是一种创新的神经网络架构,将最近提出的科尔莫戈罗夫-阿诺德网络(KAN)的原理扩展到图结构数据。通过采用KAN的独特特性,特别是使用可学习单变量函数代替固定的线性权重,我们开发了一个用于基于图的学习任务的强大模型。与依赖固定卷积架构的传统图卷积网络(GCN)不同,GKAN在层之间实现可学习的基于样条的函数,改变了信息在图结构上的处理方式。我们提出了两种将KAN层融入GKAN的方式:架构1——可学习函数在聚合后应用于输入特征;架构2——可学习函数在聚合前应用于输入特征。我们使用真实数据集(Cora)上的半监督图学习任务对GKAN进行了实证评估。我们发现架构1通常表现更好。我们发现GKAN在图上的半监督学习任务中比传统GCN模型获得了更高的准确率。例如,当考虑100个特征时,GCN的准确率为53.5,而参数数量相当的GKAN的准确率为61.76;当使用200个特征时,GCN的准确率为61.24,而参数数量相当的GKAN的准确率为67.66。我们还展示了各种参数(如隐藏节点数、网格大小和样条多项式次数)对GKAN性能的影响。

关键词

引用

@article{arxiv.2406.06470,
  title  = {GKAN: Graph Kolmogorov-Arnold Networks},
  author = {Mehrdad Kiamari and Mohammad Kiamari and Bhaskar Krishnamachari},
  journal= {arXiv preprint arXiv:2406.06470},
  year   = {2024}
}