GS-KAN:通过 Sprecher 型共享基函数实现参数高效的 Kolmogorov-Arnold 网络
机器学习
2026-01-28 v2
摘要
Kolmogorov-Arnold 表示定理为多层感知器(MLP)提供了一种理论替代方案,通过在边而非节点上放置可学习的一元函数。尽管近期实现如 Kolmogorov-Arnold 网络(KAN)展示了高逼近能力,但由于需要为每条网络边维护唯一的参数化,它们遭受了显著的参数低效问题。在本工作中,我们提出了 GS-KAN(Generalized Sprecher-KAN),一种受 David Sprecher 对叠加定理精炼启发的轻量架构。GS-KAN 通过对每层单个可学习的共享父函数应用可学习的线性变换来构造唯一的边函数。我们在合成函数逼近、表格数据回归和图像分类任务上评估了 GS-KAN 与现有 KAN 架构和 MLP 的性能。结果表明,GS-KAN 在连续函数逼近任务上同时优于 MLP 和标准 KAN 基线,同时保持了优越的参数效率。此外,GS-KAN 在表格回归上达到了与现有 KAN 架构相当的性能,并在高维分类任务上优于 MLP。关键的是,所提出的架构使得在严格参数约束下的高维环境中部署基于 KAN 的架构成为可能,而标准实现在此场景下通常因参数爆炸而不可行。源代码可在 https://github.com/rambamn48/gs-impl 获取。
引用
@article{arxiv.2512.09084,
title = {GS-KAN: Parameter-Efficient Kolmogorov-Arnold Networks via Sprecher-Type Shared Basis Functions},
author = {Oscar Eliasson},
journal= {arXiv preprint arXiv:2512.09084},
year = {2026}
}
备注
6 pages, 2 figures