中文

扩展无偏基于搜索的符号回归

机器学习 2025-06-25 v1

摘要

在回归任务中,学习从标记数据中推断函数,以在新数据点上预测标签,目标是实现小的预测误差。在符号回归中,目标更为宏大,即学习一个具有小预测误差且具有可解释性的函数。这个额外的目标大大限制了回归中常用的标准方法——即将学习问题降维为通过优化来学习基函数展开的参数。相反,符号回归方法在符号表达式的搜索空间中寻找好的解。为应对通常庞大的搜索空间,大多数符号回归方法对其结构做出隐式或显式的假设。我们指出,搜索空间的唯一显而易见的结构是它包含小表达式,即可以分解为少数子表达式的表达式。我们表明,系统性地搜索小表达式的空间找到的解在准确性和对噪声的鲁棒性方面都优于当前基于搜索的符号回归方法。特别是,系统化的搜索在能够在 established benchmark 数据集上恢复真实底层符号表达式方面超越了当前的符号回归器。

关键词

引用

@article{arxiv.2506.19626,
  title  = {Scaling Up Unbiased Search-based Symbolic Regression},
  author = {Paul Kahlmeyer and Joachim Giesen and Michael Habeck and Henrik Voigt},
  journal= {arXiv preprint arXiv:2506.19626},
  year   = {2025}
}