中文

ChemLLM:一个化学大语言模型

人工智能 2024-04-26 v2 计算与语言

摘要

大语言模型 (LLMs) 在化学应用中取得了令人瞩目的进展。然而,社区缺乏专门为化学设计的 LLM。主要挑战有两方面:首先,大多数化学数据和科学知识存储在结构化数据库中,这限制了模型在直接使用时的连贯对话能力。其次,缺乏涵盖大多数化学任务的客观且公平的基准测试。在此,我们介绍了 ChemLLM,这是一个综合框架,包含首个 dedicated 于化学的 LLM。它还包括 ChemData,一个专为指令微调设计的数据集,以及 ChemBench,一个涵盖九项基本化学任务的稳健基准测试。ChemLLM 擅长在化学学科中执行各种任务,并具有流畅的对话交互能力。值得注意的是,ChemLLM 在核心化学任务上取得了与 GPT-4 相当的结果,并在一般场景中展现出与类似规模 LLM 相当的竞争力。ChemLLM 为化学研究探索开辟了新路径,我们将结构化化学知识融入对话系统的方法为开发各科学领域的 LLM 树立了新标准。代码、数据集和模型权重可在 https://hf.co/AI4Chem 公开获取。

关键词

引用

@article{arxiv.2402.06852,
  title  = {ChemLLM: A Chemical Large Language Model},
  author = {Di Zhang and Wei Liu and Qian Tan and Jingdan Chen and Hang Yan and Yuliang Yan and Jiatong Li and Weiran Huang and Xiangyu Yue and Wanli Ouyang and Dongzhan Zhou and Shufei Zhang and Mao Su and Han-Sen Zhong and Yuqiang Li},
  journal= {arXiv preprint arXiv:2402.06852},
  year   = {2024}
}

备注

9 pages, 5 figures