可变 Kolmogorov-Arnold 网络
机器学习
2026-05-08 v2
摘要
Kolmogorov-Arnold 网络 (KANs) 提出以单变量基函数组成的多变量函数表示,作为多层感知器的理论依据替代方案。然而,KANs 的一个关键局限是需要手动指定每层基函数的数量——这一超参数直接控制模型容量,并显著影响性能,却因任务不同而难以预测其最佳值。我们提出 InfinityKAN,一种变分推断框架,消除这一设计选择,通过在训练期间学习基函数的数量。我们的方法将基数计数建模为具有截断指数先验的潜在变量,引入可微分加权函数以实现梯度优化。我们证明了变分目标的 Lipschitz 连续性,确保了稳定的训练动力学。跨越合成、图像、表格和图形领域的 18 个数据集实验表明,InfinityKAN 在无需为每层手动选择基数数量的条件下,匹配或优于 KANs 的性能。
引用
@article{arxiv.2507.02466,
title = {Variational Kolmogorov-Arnold Network},
author = {Francesco Alesiani and Henrik Christiansen and Federico Errica},
journal= {arXiv preprint arXiv:2507.02466},
year = {2026}
}
备注
Preprint