将任意矩阵群等变性融入KAN
机器学习
2025-08-18 v4
摘要
Kolmogorov-Arnold网络由于样条激活函数在科学领域取得了巨大成功，成为多层感知器的替代方案。然而，样条函数可能不尊重任务中的对称性，而对称性是机器学习中至关重要的先验知识。在本文中，我们提出了等变Kolmogorov-Arnold网络，一种将任意矩阵群等变性融入KAN的方法，旨在将其适用性扩展到更多领域。我们首先构建了门控样条基函数，它们与等变线性权重一起构成EKAN层，然后定义了一个提升层以将EKAN的输入空间与数据集的特征空间对齐，从而构建整个EKAN架构。与基线模型相比，EKAN在对称性相关任务（如粒子散射和三体问题）上，使用更小的数据集或更少的参数实现了更高的精度，通常将测试MSE降低几个数量级。即使在非符号公式场景中，例如使用三个喷注成分进行顶夸克标记，EKAN使用不到40%的参数就达到了与最先进等变架构相当的结果，而KAN并未如预期那样优于MLP。代码和数据可在https://github.com/hulx2002/EKAN获取。
引用
@article{arxiv.2410.00435,
title = {Incorporating Arbitrary Matrix Group Equivariance into KANs},
author = {Lexiang Hu and Yisen Wang and Zhouchen Lin},
journal= {arXiv preprint arXiv:2410.00435},
year = {2025}
}