通过CDF归一化到分位数提升KAN性能
机器学习
2025-07-21 v1
摘要
数据归一化在机器学习中至关重要,通常通过减去均值并除以标准差,或通过缩放到固定范围来实现。在共价理论中,广泛用于金融领域,一种方法是通过对x进行CDF变换(累积分布函数)来实现近似分位数归一化,将其转换为近似均匀分布于[0,1]上的分布,允许更简单表示,降低过拟合风险。然而,这在机器学习领域几乎未被人知,因此我们希望在以示例形式展示其优势:以最近流行的Kolmogorov-Arnold网络(KANs)为例,通过仅更换归一化方式为CDF归一化,即可提升Legendre-KAN的预测性能。此外,在HCR解释中,这类神经元的权重是混合矩,提供局部联合分布模型,可用于传播概率分布,并改变传播方向。
引用
@article{arxiv.2507.13393,
title = {Improving KAN with CDF normalization to quantiles},
author = {Jakub Strawa and Jarek Duda},
journal= {arXiv preprint arXiv:2507.13393},
year = {2025}
}
备注
7 pages, 9 figures