使用师生大型语言模型的指令多约束分子生成
计算与语言
2024-10-11 v4 人工智能
摘要
虽然已经提出了各种模型和计算工具用于分子的结构和性质分析，但生成符合所有所需结构和性质的分子仍然是一个挑战。在这里，我们引入了一个多约束分子生成大型语言模型 TSMMG，它像学生一样，从各种小模型和工具（即“教师”）中吸收知识。为了训练 TSMMG，我们通过从这些“教师”中提取分子知识，构建了大量文本-分子对，使其能够通过各种文本提示生成符合描述的新型分子。我们通过实验表明，TSMMG 在生成满足复杂、自然语言描述性质要求的分子方面表现卓越，涵盖双约束、三约束和四约束任务，平均分子有效性超过 99%，成功率分别为 82.58%、68.03% 和 67.48%。该模型还通过零样本测试展示了适应性，能够创建满足未遇到过的性质组合的分子。正如经验验证所证实的那样，它可以理解各种语言风格的文本输入，超越了所列提示的局限。此外，TSMMG 的知识蒸馏特性有助于小模型的持续增强，而创新的数据集构建方法有效解决了数据稀缺和质量问题，这使得 TSMMG 成为药物发现和材料科学领域中极具前景的工具。
引用
@article{arxiv.2403.13244,
title = {Instruction Multi-Constraint Molecular Generation Using a Teacher-Student Large Language Model},
author = {Peng Zhou and Jianmin Wang and Chunyan Li and Zixu Wang and Yiping Liu and Siqi Sun and Jianxin Lin and Leyi Wei and Xibao Cai and Houtim Lai and Wei Liu and Longyue Wang and Yuansheng Liu and Xiangxiang Zeng},
journal= {arXiv preprint arXiv:2403.13244},
year = {2024}
}
备注
37 pages, 10 figures