中文

TruKAN:面向更高效 Kolmogorov-Arnold 网络的截断幂函数

计算机视觉与模式识别 2026-02-05 v1 人工智能 机器学习

摘要

为解决计算效率与 Kolmogorov-Arnold 网络(KAN)原则之间的权衡,我们提出 TruKAN,一种基于 KAN 结构和可学习激活函数的新型架构。TruKAN 用源自 k 阶样条理论的截断幂函数取代 KAN 中的 B 样条基函数。此变更在保持 KAN 表达力的同时提升精度和训练时间。每个 TruKAN 层将截断幂项与多项式项相结合,可采用共享或individual 节点。TruKAN 由于其简化的基函数和节点配置,比其他 KAN 变体具有更高的可解释性。通过优先可解释基函数,TruKAN 旨在在近似效能与透明性之间取得平衡。我们开发 TruKAN 模型并集成到高级 EfficientNet-V2 基础框架中,该框架随后在计算机视觉基准数据集上进行评估。为确保公平比较,我们开发了各种模型:基于 MLP、KAN、SineKAN 和 TruKAN 的 EfficientNet 框架,并评估其在小型和深层架构上的训练时间和准确率。训练阶段采用混合优化以提高收敛稳定性。此外,我们研究了所有模型的层归一化技术,并评估了 TruKAN 中共享与individual 节点的影响。总体而言,TruKAN 在复杂视觉任务上在准确率、计算效率和内存使用方面均优于其他 KAN 模型,显示现实优势超越了先前 KAN 研究所探索的有限设置。

关键词

引用

@article{arxiv.2602.03879,
  title  = {TruKAN: Towards More Efficient Kolmogorov-Arnold Networks Using Truncated Power Functions},
  author = {Ali Bayeh and Samira Sadaoui and Malek Mouhoub},
  journal= {arXiv preprint arXiv:2602.03879},
  year   = {2026}
}

备注

23 pages, 9 figures