面向化学与反向合成预测的大型语言模型
化学物理
2025-07-11 v2
摘要
大型语言模型（Large Language Model, LLM）在广泛的通用任务中取得了显著进展，但其在化学领域的有效性仍受限于稀缺的领域特定数据集以及对精确符号和结构推理的需求。本文介绍了 ECNU-ChemGPT（后来自华东师范大学），这是一种专为深入化学知识理解和准确反向合成路线规划而设计的化学专业大型语言模型。我们的方法区别于四个关键策略：首先，基于结构化提示从权威化学教科书中进行知识蒸馏，以构建高质量的问答数据集；其次，使用精选的化学关键词进行领域特定的提示工程，并结合 LLM API 进行数据派生和知识蒸馏；第三，在经精心清理和丰富的 Pistachio 反应数据集上进行大规模微调，以提升反向合成预测准确度；最后，集成 BrainGPT，这一动态多模型调度框架，使能够针对特定任务调用多个为 diverse chemistry-related 任务而训练的专用模型。ECNU-ChemGPT 在化学问答和反向合成规划基准测试中表现出优异的性能，优于包括 Deepseek-R1、Qwen-2.5 和 GPT-4o 在内的领先通用模型。在反向合成方面，它在 USPTO_50K 数据集上实现了 68.3% 的 Top-1 准确率，并成功重建了来自医药化学期刊的 13 条完整实验路径。这一结果凸显了领域适应性微调结合动态多模型任务调度的有效性，为化学知识问答和反向合成规划提供了可扩展且稳健的解决方案。
引用
@article{arxiv.2507.01444,
title = {A Large Language Model for Chemistry and Retrosynthesis Predictions},
author = {Yueqing Zhang and Wentao Liu and Yan Zhang and Danyang Xiong and Jihang Zhai and Hao Hao and YuCheng Gu and HaiBo Yang and Shuanhu Gao and Lianrui Hu and Aimin Zhou and Xiao He},
journal= {arXiv preprint arXiv:2507.01444},
year = {2025}
}