大语言模型对药物分子结构片段级理解的实证证据
机器学习
2024-01-17 v1 计算工程、金融与科学
生物大分子
摘要
人工智能用于药物发现近年来一直是研究热点，基于 SMILES 的语言模型在药物分子设计中得到日益广泛的应用。然而，尚无工作探究语言模型是否以及如何从一维序列中理解化学空间结构。在本工作中，我们在化学语言上预训练一个 Transformer 模型，并针对药物设计目标对其进行微调，进而研究高频 SMILES 子串与分子片段之间的对应关系。结果表明，语言模型能够从分子片段的视角理解化学结构，且通过微调学到的结构知识反映在模型生成的高频 SMILES 子串中。
引用
@article{arxiv.2401.07657,
title = {Empirical Evidence for the Fragment level Understanding on Drug Molecular Structure of LLMs},
author = {Xiuyuan Hu and Guoqing Liu and Yang Zhao and Hao Zhang},
journal= {arXiv preprint arXiv:2401.07657},
year = {2024}
}
备注
Accepted by AAAI 2024 workshop: Large Language Models for Biological Discoveries (LLMs4Bio)