改进用于符号回归的蒙特卡洛树搜索
机器学习
2025-09-25 v2
摘要
符号回归旨在发现简洁、可解释且满足期望目标（如拟合数据）的数学表达式，构成了一个高度组合的优化问题。遗传规划一直是主流方法，但近期研究探索了强化学习方法以提高搜索效率。蒙特卡洛树搜索 (MCTS) 凭借其通过引导搜索平衡探索与利用的能力，已成为符号表达式发现的一项有前景的技术。然而，其传统的赌博机策略和顺序符号构建通常限制了性能。在本工作中，我们提出了一种用于符号回归的改进 MCTS 框架，通过两项关键创新解决这些局限：(1) 一种专为识别全局最优表达式定制的极端赌博机分配策略，在多项式奖励衰减假设下具有有限时间性能保证；(2) 受进化启发的状态跳跃动作（如突变和交叉），能够实现向搜索空间中有前景区域的非局部转移。这些状态跳跃动作还在搜索过程中重塑了奖励景观，提高了鲁棒性和效率。我们对这些改进的影响进行了详尽的数值研究，并在多种数据集（包括真值数据集和黑盒数据集）上将该方法与现有符号回归方法进行了基准对比。我们的方法在恢复率方面达到了与 SOTA 库具竞争力的性能，并在准确率与模型复杂度的 Pareto 前沿上取得了有利位置。代码可在 https://github.com/PKU-CMEGroup/MCTS-4-SR 获取。
引用
@article{arxiv.2509.15929,
title = {Improving Monte Carlo Tree Search for Symbolic Regression},
author = {Zhengyao Huang and Daniel Zhengyu Huang and Tiannan Xiao and Dina Ma and Zhenyu Ming and Hao Shi and Yuanhui Wen},
journal= {arXiv preprint arXiv:2509.15929},
year = {2025}
}