光滑 Kolmogorov Arnold 网络实现结构化知识表示
机器学习
2024-05-28 v2 无序系统与神经网络
人工智能
机器学习
摘要
Kolmogorov-Arnold 网络（KANs）因其有限的网络拓扑结构，提供了对传统多层感知器（MLP）架构的高效且可解释的替代方案。然而，根据 Kolmogorov 和 Vitushkin 的结果，使用受限于有限数量截断点的解析函数实现的 KANs 无法精确表示通用光滑函数。因此，KANs 在训练过程中的收敛可能受到限制。本文探讨了光滑性在 KANs 中的重要性，提出光滑且结构化信息的 KANs 可在特定函数类中等价于 MLP。通过利用内在结构化知识，KANs 可能减少训练所需的数据，并减轻生成幻觉预测的风险，从而增强计算生物医学领域模型的可靠性和性能。
引用
@article{arxiv.2405.11318,
title = {Smooth Kolmogorov Arnold networks enabling structural knowledge representation},
author = {Moein E. Samadi and Younes Müller and Andreas Schuppert},
journal= {arXiv preprint arXiv:2405.11318},
year = {2024}
}