基于切比雪夫多项式的Kolmogorov-Arnold网络:非线性函数逼近的高效架构
机器学习
2024-06-17 v3 人工智能
摘要
准确逼近复杂非线性函数是贯穿多个科学和工程领域的基本挑战。传统神经网络架构如多层感知机(MLP)往往难以有效捕捉高维函数中所见的复杂模式和不规则性。本文提出了切比雪夫Kolmogorov-Arnold网络(Chebyshev KAN),这是一种受Kolmogorov-Arnold表示定理启发的新型神经网络架构,融合了切比雪夫多项式的强大逼近能力。通过在网络边缘上使用可学习的切比雪夫多项式参数化函数,Chebyshev KAN在函数逼近任务中提升了灵活性、效率和可解释性。我们通过数字分类、合成函数逼近和分形函数生成实验展示了Chebyshev KAN的有效性,凭借参数效率和可解释性优势,证明其在非线性函数逼近中优于传统MLP。我们的全面评估,包括消融研究,确认了Chebyshev KAN有望解决非线性函数逼近中的长期挑战,为进一步在各种科学和工程应用中取得突破。
引用
@article{arxiv.2405.07200,
title = {Chebyshev Polynomial-Based Kolmogorov-Arnold Networks: An Efficient Architecture for Nonlinear Function Approximation},
author = {Sidharth SS and Keerthana AR and Gokul R and Anas KP},
journal= {arXiv preprint arXiv:2405.07200},
year = {2024}
}