MolecularGPT: 用于少样本分子性质预测的开源大语言模型
定量方法
2024-10-21 v2 人工智能
计算工程、金融与科学
计算与语言
机器学习
摘要
分子性质预测是药物发现中一项基础且关键的任务。然而，先前的方法受到需要大量标记分子以及泛化到未见和新任务的能力有限的限制，而这两者对于现实世界应用都至关重要。为了应对这些挑战，我们提出了用于少样本分子性质预测的MolecularGPT。从指令微调的角度出发，我们基于涵盖超过1000个性质预测任务的精选分子指令对大型语言模型进行微调。这使得能够构建一个多功能且专业化的LLM，可以通过零样本和少样本上下文学习适应新的分子性质预测任务，而无需任何微调。MolecularGPT在10个下游评估数据集上展示了具有竞争力的上下文推理能力，为少样本分子预测任务设立了新的基准。更重要的是，仅使用两个样本示例，MolecularGPT在7个数据集中的4个上可以超越标准的监督图神经网络方法。在零样本设置下，它在分类准确率上比最先进的LLM基线高出15.7%，在回归指标（如RMSE）上降低了17.9。本研究展示了LLM作为有效少样本分子性质预测器的潜力。代码可在https://github.com/NYUSHCS/MolecularGPT获取。
引用
@article{arxiv.2406.12950,
title = {MolecularGPT: Open Large Language Model (LLM) for Few-Shot Molecular Property Prediction},
author = {Yuyan Liu and Sirui Ding and Sheng Zhou and Wenqi Fan and Qiaoyu Tan},
journal= {arXiv preprint arXiv:2406.12950},
year = {2024}
}