I-MCTS: 通过内省蒙特卡罗树搜索提升代理式 AutoML
计算与语言
2026-01-26 v5
摘要
近期大型语言模型（LLM）的快速发展显示出在自动化机器学习任务中具有巨大潜力。然而，现有的 LLM-based 代理往往难以实现高样本多样性和次优代码生成。虽然最近的工作引入了蒙特卡罗树搜索（MCTS）以解决这些问题，但在思维生成的质量和多样性方面，以及在节点选择中使用的标量反馈机制方面仍存在局限性。本研究引入内省蒙特卡罗树搜索（I-MCTS），一种通过对父节点和兄弟节点所求解和结果进行细致分析而逐步扩张树节点的新方法。这是一种持续细化搜索树中节点的过程，从而增强整体决策过程。此外，我们集成了基于大型语言模型（LLM）的值模型，以便在进行全面计算滚动之前，对每个节点的解决方案进行直接评估。实现了一种混合奖励机制，以便在 LLM 估计得分和实际性能得分之间无缝过渡 Q 值。这允许更高质量的节点更早被遍历。应用于各种 ML 任务，我们的方法在性能上比强大的开源 AutoML 代理提升了 4 个百分点，展示了其在增强代理式 AutoML 系统方面的有效性。资源可在 https://github.com/jokieleung/I-MCTS 获取。
引用
@article{arxiv.2502.14693,
title = {I-MCTS: Enhancing Agentic AutoML via Introspective Monte Carlo Tree Search},
author = {Zujie Liang and Feng Wei and Wujiang Xu and Lin Chen and Yuxi Qian and Xinhui Wu},
journal= {arXiv preprint arXiv:2502.14693},
year = {2026}
}
备注
EACL 2026 Findings