FC-KAN:Kolmogorov-Arnold网络中的函数组合
机器学习
2026-03-17 v5 计算与语言
摘要
在本文中,我们介绍了FC-KAN,这是一种Kolmogorov-Arnold网络(KAN),其利用诸如B样条、小波和径向基函数等流行数学函数在低维数据上通过元素级操作进行组合。我们探索了了多种对这些函数输出进行组合的方法,包括求和、元素级乘积、求和与元素级乘积的加和、表示二次和三次函数的形式、拼接、对拼接输出进行线性变换等。我们在MNIST和Fashion-MNIST数据集上与多层感知器网络(MLP)以及其他现有KAN(如BSRBF-KAN、EfficientKAN、FastKAN和FasterKAN)进行比较。我们两种FC-KAN变体表现优异:一种使用B样条和高斯导数(DoG)的输出组合,另一种使用B样条和线性变换形式的二次函数。两种变体在5次独立训练运行的平均值上均优于其他模型。我们期望FC-KAN能够利用函数组合来设计未来的KAN。我们的仓库已公开可用:https://github.com/hoangthangta/FC_KAN。
引用
@article{arxiv.2409.01763,
title = {FC-KAN: Function Combinations in Kolmogorov-Arnold Networks},
author = {Hoang-Thang Ta and Duy-Quy Thai and Abu Bakar Siddiqur Rahman and Grigori Sidorov and Alexander Gelbukh},
journal= {arXiv preprint arXiv:2409.01763},
year = {2026}
}
备注
17 pages