稀疏变分高斯过程 Kolmogorov-Arnold 网络 (SVGP KAN) 以可扩展性与可解释性实现科学发现
机器学习
2025-12-02 v1 机器学习
摘要
Kolmogorov-Arnold 网络 (KAN) 通过在网络边缘放置可学习的单变量函数，成为多层感知器 (MLP) 的有前景替代方案，提升可解释性。然而，标准 KAN lacks 概率输出，限制了其在需要不确定性定量评估的应用中的实用性。虽然最近的高斯过程 (GP) 扩展到 KAN 解决了这一问题，但它们利用精确推断方法，其计算复杂度随数据规模 N 的三次方，限制了其仅适用于小数据集。我们提出稀疏变分 GP-KAN (SVGP-KAN) 架构，将稀疏变分推断集成到 KAN 拓扑结构中。通过采用 M 个诱导点和解析矩匹配，我们的方法将计算复杂度从 O(N³) 降低至 O(NM²) 或线性于样本规模，从而使概率 KAN 应用于更大规模的科学数据集成成为可能。进一步，我们演示将置换重要性分析集成到网络中，可使其作为结构识别框架运行，识别相关输入并分类功能关系。
引用
@article{arxiv.2512.00260,
title = {Scalable and Interpretable Scientific Discovery via Sparse Variational Gaussian Process Kolmogorov-Arnold Networks (SVGP KAN)},
author = {Y. Sungtaek Ju},
journal= {arXiv preprint arXiv:2512.00260},
year = {2025}
}
备注
7 pages, 3 figures