基于树搜索的工具学习提升 LLMs 在化学和材料科学中的能力
机器学习
2025-06-13 v2 人工智能
计算工程、金融与科学
计算与语言
摘要
大语言模型 (LLMs) 最近在化学任务中展现出前景能力，但仍面临因 pretraining knowledge 过时和难以整合专业化学专长等挑战。为此，我们提出一种 LLM-based agent，将 137 个外部化学工具 (范围从基本信息检索到复杂反应预测) 与一个用于生成 ChemToolBench 数据集的 curation pipeline 集成，后者在 fine-tuning 和 evaluation 中促进有效的 tool selection 和 precise parameter filling。我们引入分层演化蒙特卡洛树搜索 (Hierarchical Evolutionary Monte Carlo Tree Search, HE-MCTS) 框架，实现 tool planning 与 execution 的独立优化。通过利用自生成数据，我们的方法支持策略模型的 step-level fine-tuning (FT)，以及超越 GPT-4o 的 training task-adaptive PRM 和 ORM。实验评估表明，我们的方法在 Chemistry QA 和 discovery 任务中显著提升了性能，为将专业化工具与 LLMs 集成以实现高级化学应用提供了稳健的解决方案。所有数据集和代码已公开于 https://github.com/AI4Chem/ChemistryAgent。
引用
@article{arxiv.2506.07551,
title = {CheMatAgent: Enhancing LLMs for Chemistry and Materials Science through Tree-Search Based Tool Learning},
author = {Mengsong Wu and YaFei Wang and Yidong Ming and Yuqi An and Yuwei Wan and Wenliang Chen and Binbin Lin and Yuqiang Li and Tong Xie and Dongzhan Zhou},
journal= {arXiv preprint arXiv:2506.07551},
year = {2025}
}
备注
15 pages, 6 figures