中文

一种结合VAE与Transformer的新型分子生成模型用于未见结构生成

生物大分子 2024-04-08 v2 机器学习 化学物理

摘要

近年来,利用深度学习进行分子生成在药物发现中得到了积极研究。在该领域,Transformer和VAE被广泛用作强大模型,但由于它们在结构和性能上的不匹配,很少被结合使用。本研究提出了一种模型,通过结构和参数优化来处理多样化的分子,将这两种模型结合起来。所提出的模型在生成分子方面表现出与现有模型相当的性能,并且在生成具有未见结构的分子方面表现出远优于现有模型的性能。该VAE模型的另一个优点是它从潜在表示生成分子,因此可以轻松预测或调节分子的性质,事实上,我们展示了该模型的潜在表示成功预测了分子性质。消融研究表明,VAE在生成新颖分子方面优于其他生成模型(如语言模型)。它还表明,潜在表示可以缩短到约32维变量而不损失重构能力,这表明可能存在比现有模型小得多的分子描述符或模型。本研究有望提供一个包含多种化合物的虚拟化学库,用于虚拟筛选,并实现高效筛选。

关键词

引用

@article{arxiv.2402.11950,
  title  = {A novel molecule generative model of VAE combined with Transformer for unseen structure generation},
  author = {Yasuhiro Yoshikai and Tadahaya Mizuno and Shumpei Nemoto and Hiroyuki Kusuhara},
  journal= {arXiv preprint arXiv:2402.11950},
  year   = {2024}
}

备注

23 pages, 9 figures