为化学训练科学推理模型
机器学习
2025-12-03 v2
摘要
推理模型是一种 emit 长链式思考后再回答的大型语言模型，能够提供更高的准确率和对其响应的显式推理。一个主要问题是语言模型推理是否能在数学、编程和逻辑方面普及，这些是大多数前期工作所关注的领域。我们展示了推理模型可以在不额外域预训练的情况下进行化学 post-training，所需数据显著少于当代领域特定模型。我们报告了 ether0，一个 24B 参数的 LLM（基于 Mistral-Small-24B），能够以自然语言进行推理并以化学结构作答。该推理模型是在 640,730 项实验依据的化学问题上进行强化学习训练的，这些问题涵盖 375 项任务，从可合成性、到血脑屏障渗透性、到人类受体活性、到香味。我们的模型在分子设计任务上超越了通用化学模型、前沿模型和人类专家，且在数据效率方面也优于专门模型。我们预计，这种方法可以应用于训练面向广泛科学领域的任务的高效数据语言模型。
引用
@article{arxiv.2506.17238,
title = {Training a Scientific Reasoning Model for Chemistry},
author = {Siddharth M. Narayanan and James D. Braza and Ryan-Rhys Griffiths and Albert Bou and Geemi Wellawatte and Mayk Caldas Ramos and Ludovico Mitchener and Samuel G. Rodriques and Andrew D. White},
journal= {arXiv preprint arXiv:2506.17238},
year = {2025}
}