Kolmogorov-Arnold 傅里叶网络

Jusheng Zhang; Yijia Fan; Kaitong Cai; Keze Wang; Wenhao Wang

Kolmogorov-Arnold 傅里叶网络

机器学习 2026-05-26 v3 人工智能

作者: Jusheng Zhang , Yijia Fan , Kaitong Cai , Keze Wang , Wenhao Wang

摘要

尽管基于 Kolmogorov-Arnold 的可解释网络 (KAN) 具有强大的理论表达能力，但它们在高维任务中面临严重的参数膨胀和捕捉高频特征能力有限的问题。为解决这些问题，我们提出了 Kolmogorov-Arnold 傅里叶网络 (KAF)，它通过谱重参数化从根本上重新定义了 KAN 范式。我们的主要贡献包括：(1) 提出了一种从局部的、基于网格的 B 样条表示到全局的、自适应的谱表示的基本基变换。这种转变改变了网络的归纳偏置，将参数复杂度从 $O(G)$ 降低到 $O(1)$ ，同时保持了表达能力；(2) 引入了通过谱对齐策略初始化的可训练随机傅里叶特征 (RFF)，使模型能够打破固定核的平滑性限制，并精确捕捉高频成分；(3) 实现了一种自适应混合 GELU-傅里叶激活机制，在训练过程中逐步增强频率表示。综合实验证明了 KAF 在计算机视觉 (CV)、自然语言处理 (NLP)、音频和偏微分方程 (PDE) 求解任务中的优越性，以更高的效率实现了最先进的性能。代码可在 https://github.com/kolmogorovArnoldFourierNetwork/KAF 获取。

关键词

Kolmogorov-Arnold 网络傅里叶变换谱重参数化随机傅里叶特征高频表示自适应激活深度学习

引用

@article{arxiv.2502.06018,
  title  = {Kolmogorov-Arnold Fourier Networks},
  author = {Jusheng Zhang and Yijia Fan and Kaitong Cai and Keze Wang and Wenhao Wang},
  journal= {arXiv preprint arXiv:2502.06018},
  year   = {2026}
}

备注

Code:https://github.com/kolmogorovArnoldFourierNetwork/KAF

Kolmogorov-Arnold 傅里叶网络

摘要

关键词

引用

备注

相关论文