Wav-KAN：小波Kolmogorov-Arnold网络

在本文中，我们介绍了Wav-KAN，一种创新的神经网络架构，利用小波Kolmogorov-Arnold网络（Wav-KAN）框架来增强可解释性和性能。传统的多层感知器（MLP）甚至最近的进展如Spl-KAN在可解释性、训练速度、鲁棒性、计算效率和性能方面面临挑战。Wav-KAN通过将小波函数纳入Kolmogorov-Arnold网络结构来解决这些限制，使网络能够高效地捕获输入数据的高频和低频分量。基于小波的近似采用正交或半正交基，并在准确表示底层数据结构和避免过拟合噪声之间保持平衡。虽然连续小波变换（CWT）具有很大潜力，我们还采用了离散小波变换（DWT）进行多分辨率分析，这避免了在寻找细节时重新计算先前步骤的需要。类似于水适应其容器的形状，Wav-KAN适应数据结构，从而相比Spl-KAN和MLP提高了准确性、更快的训练速度和更强的鲁棒性。我们的结果突出了Wav-KAN作为开发可解释和高性能神经网络的强大工具的潜力，其应用跨越多个领域。这项工作为进一步在PyTorch和TensorFlow等框架中探索和实现Wav-KAN奠定了基础，旨在使KAN中的小波像通用逼近理论（UAT）中的ReLU和sigmoid激活函数一样普及。重现模拟的代码可在https://github.com/zavareh1/Wav-KAN获取。