使用层直方图为 Kolmogorov-Arnold 网络自动更新网格
机器学习
2025-11-14 v2 人工智能
摘要
Kolmogorov-Arnold Networks (KAN) 是一类在近期文献中受到越来越多关注的神经网络。与 MLP 不同，KAN 利用参数化的可训练激活函数，并提供了多项优势，包括在符号方程学习上具有更好的可解释性和更高的准确率。然而，原始的 KAN 架构在训练过程中需要调整网络域的离散化（称为“域网格”），这给用户的训练过程带来了额外开销。典型的 KAN 层并未设计成能够根据前一层不断变化的输出范围，以数据驱动的方式自主更新其域的能力。作为一个额外益处，该直方图算法也可用于在各种场景下检测分布外 (OOD) 输入。我们证明了 AdaptKAN 在四项不同任务上的性能超越或匹配了先前的 KAN 架构和 MLP：从 Feynman 数据集中学习科学方程、从冻结特征进行图像分类、学习控制 Lyapunov 函数，以及在 OpenOOD v1.5 基准上检测 OOD 输入。
引用
@article{arxiv.2511.08570,
title = {Automatic Grid Updates for Kolmogorov-Arnold Networks using Layer Histograms},
author = {Jamison Moody and James Usevitch},
journal= {arXiv preprint arXiv:2511.08570},
year = {2025}
}