GINN-LP：用于发现多变量 Laurent 多项式方程的增长式可解释神经网络
机器学习
2024-02-16 v2 人工智能
摘要
传统机器学习通常被视为黑箱优化问题，难以产生连接输入输出的可解释函数。然而，发现此类可解释函数的能力是可取的。在本工作中，我们提出了 GINN-LP，这是一种用于发现数据集底层方程形式和系数的可解释神经网络，假设该方程取多变量 Laurent 多项式的形式。这通过一种新的可解释神经网络模块实现，即“幂次项逼近模块”，由对数和指数激活函数组成。GINN-LP 是端到端可微的，能够使用反向传播进行训练。我们提出了一种神经网络增长策略，以确定表示数据的 Laurent 多项式中合适的项数，并采用稀疏正则化以促进简洁方程的发现。鉴于目前尚无模型能够在无需先验信息的情况下发现任意多变量 Laurent 多项式项，我们的方法首次实现了此功能。我们首先在 SRBench 数据子集上对 GINN-LP 进行评估，该基准用于符号回归。我们首先展示了 GINN-LP 在使用 48 个真实世界方程生成的数据集上优于最新符号回归方法。随后，我们提出一种集成方法，将该方法与高性能符号回归方法结合，以发现非 Laurent 多项式方程。通过将该集成方法应用于 SRBench 中的 113 个具有已知真实方程的数据集，我们实现了方程发现的最新成果，相较于最佳竞争者提升了 7.1%。
引用
@article{arxiv.2312.10913,
title = {GINN-LP: A Growing Interpretable Neural Network for Discovering Multivariate Laurent Polynomial Equations},
author = {Nisal Ranasinghe and Damith Senanayake and Sachith Seneviratne and Malin Premaratne and Saman Halgamuge},
journal= {arXiv preprint arXiv:2312.10913},
year = {2024}
}
备注
14 pages, 12 figures, Accepted by AAAI24