Kolmogorov 超位置定理的深度学习替代方案
机器学习
2026-05-18 v3 计算工程、金融与科学
摘要
本文探讨了 Kolmogorov 超位置定理（KST）的替代形式作为神经网络设计的基础。原始 KST 表述虽然数学上优雅，但因其对内外函数结构缺乏深入洞察以及引入大量未知变量的限制，在实际应用中存在挑战。Kolmogorov-Arnold 网络（KANs）利用 KST 进行函数逼近，但由于与传统多层感知器（MLP）的比较结果不稳定以及受制于 KST 原始表述的实际限制，面临质疑。为解决这些问题，我们引入 ActNet，这是一个基于 KST 的可扩展深度学习模型，克服了 Kolmogorov 原始表述的许多缺点。在物理受限神经网络（PINN）的语境中评估 ActNet，这是一种特别适合利用 KST 在低维函数逼近方面的框架，用于模拟偏微分方程（PDE）。在这个充满挑战的环境中，模型必须在缺乏直接测量的情况下学习潜在函数，ActNet 在多个基准测试中 consistently 优于 KANs，并在当前最佳 MLP 方法中保持竞争力。这一结果将 ActNet 作为 KST 基础深度学习应用的有前景的新方向，特别是在科学计算和 PDE 模拟任务中，提出了新的可能性。
引用
@article{arxiv.2410.01990,
title = {Deep Learning Alternatives of the Kolmogorov Superposition Theorem},
author = {Leonardo Ferreira Guilhoto and Paris Perdikaris},
journal= {arXiv preprint arXiv:2410.01990},
year = {2026}
}