可扩展的基于贝叶斯推断的物理信息 Kolmogorov-Arnold 网络

不确定性量化（UQ）在科学机器学习中扮演着关键角色，尤其是在用于近似复杂系统的替代模型时。虽然多层感知机（MLP）常被用作替代模型，但往往因参数数量大而容易过拟合。Kolmogorov-Arnold 网络（KANs）提供了另一种解决方案，参数更少。然而，梯度基于的推断方法，如 Hamiltonian Monte Carlo（HMC），在应用于大规模数据集时，由于反向传播成本高，可能导致计算效率低下。为此，我们提出了一种新方法，将 dropout Tikhonov 集成卡尔曼反演（DTEKI）与 Chebyshev KANs 结合起来。这一无梯度方法有效缓解了过拟合问题，同时增强了数值稳定性。此外，我们采用主导子空间方法以降低参数空间的维度，从而提高预测准确性并获得更可靠的不确定性估计。广泛的实验结果表明，我们的方法在各种测试场景中都有效，包括大数据集和高噪声情形的情形。我们的结果表明，新方法在准确率上与 HMC 相当或更好，同时具有更高的效率和稳定性，同时具备良好的可扩展性。此外，凭借低维参数子空间的利用，我们的方法在保持预测准确性的同时，进一步大幅度降低了计算成本。