PruneSymNet：一种用于符号回归的符号神经网络与剪枝算法
机器学习
2024-01-30 v1 人工智能
摘要
符号回归旨在从数据中推导出可解释的符号表达式，以便更好地理解和解释数据。本研究提出了一种用于符号回归的符号网络，称为 PruneSymNet。这是一种新型神经网络，其激活函数由常见的初等函数和运算符组成。整个网络是可微的，可以通过梯度下降方法进行训练。网络中的每个子网络对应一个表达式，我们的目标是提取这样的子网络以获得所需的符号表达式。因此，我们提出了一种贪婪剪枝算法，在保证数据拟合精度的同时，将网络剪枝为一个子网络。所提出的贪婪剪枝算法在每次剪枝时保留损失最小的边，但贪婪算法通常无法获得最优解。为了缓解这个问题，我们在剪枝过程中结合了束搜索，每次获得多个候选表达式，并最终选择损失最小的表达式作为最终结果。在公开数据集上进行了测试，并与当前流行的算法进行了比较。结果表明，所提出的算法具有更好的精度。
引用
@article{arxiv.2401.15103,
title = {PruneSymNet: A Symbolic Neural Network and Pruning Algorithm for Symbolic Regression},
author = {Min Wu and Weijun Li and Lina Yu and Wenqiang Li and Jingyi Liu and Yanjie Li and Meilan Hao},
journal= {arXiv preprint arXiv:2401.15103},
year = {2024}
}