Kolmogorov-Arnold 网络中快速激活函数与三角函数的组合
机器学习
2025-08-19 v1
摘要
多年来,许多神经网络基于 Kolmogorov-Arnold 表示定理(KART)开发,旨在解决 Hilbert 的第 13 题。最近,基于 KART,Kolmogorov-Arnold 网络(KANs)引起了研究界的关注,推动了使用如 B 样条和 RBF 之类的多项式函数。然而,这些函数尚不被 GPU 设备完全支持,仍被视为较不流行。本文提出在 Kolmogorov-Arnold 网络(KANs)中采用快速计算函数,如 ReLU 和三角函数(例如 ReLU、sin、cos、arctan),作为基组件。通过将这些函数组合融入网络结构,我们旨在提升计算效率。实验结果表明,这些组合在保持具竞争力性能的同时,可能在训练时间和泛化能力方面实现潜在提升。
引用
@article{arxiv.2508.11876,
title = {Combinations of Fast Activation and Trigonometric Functions in Kolmogorov-Arnold Networks},
author = {Hoang-Thang Ta and Duy-Quy Thai and Phuong-Linh Tran-Thi},
journal= {arXiv preprint arXiv:2508.11876},
year = {2025}
}
备注
6pages