深层 Kolmogorov-Arnold 网络表示中基于层的 Lipschitz 乘积控制用于组合结构函数
机器学习
2026-04-30 v1
摘要
我们证明，任何从 [0,1]^n 映射到 R 的连续函数 f，只要可由具有 N 个内部节点且组合稀疏度 s = O(1) 的有限计算树实现，即可获得深层 Kolmogorov-Arnold 网络 (KAN) 表示。每个内部节点由受控块深度和 Lipschitz 乘积的原始 KAN 块实现。层级 Lipschitz 乘积满足主导域相关界，独立于输入维数 n。它简化为 P(KAN_f) <= max(C*,1)^L_f，其中 L_f <= c_max * N。对于标准操作 {+,-,x,sin,cos} 且 x 节点作用于 [0,1] 边界输入，我们得到 P(KAN) <= 1。层宽满足 n_l <= n + 2 w_max * N。统一逼近误差上界为 N * max(C*,1)^d(f) * epsilon_Op（当 C* <=1 时可化简）。对于 f 在 C^m 中可获得最优 B 样条收敛率。也推导出范围界 (B_f <= N+1 对加法树)。这解决了 Liu 等人 (2024) 所指出的深层 KAN 堆栈中 Lipschitz 控制的空白。实验确认 P(KAN)=1.0 可用于多个组合结构函数。
引用
@article{arxiv.2604.26444,
title = {Layer-wise Lipschitz-Product Control for Deep Kolmogorov--Arnold Network Representations of Compositionally Structured Functions},
author = {Aleksander Tankman},
journal= {arXiv preprint arXiv:2604.26444},
year = {2026}
}
备注
15 pages, theoretical note on layer-wise Lipschitz control for deep KANs