STAR-VAE:用于可扩展且可控分子生成的潜变量Transformer
机器学习
2025-11-05 v1 人工智能
生物大分子
摘要
药物类分子的化学空间庞大,动机在于发展必须学习广泛化学分布、实现通过捕获结构-性质表征进行条件生成,并提供快速分子生成的生成模型。满足这些目标取决于建模选择,包括概率建模方法、条件生成公式、体系结构以及分子输入表示。为应对挑战,我们提出STAR-VAE(Selfies编码、Transformer基、自回归变分自编码器),这是一个具有Transformer编码器和自回归Transformer解码器的可扩展潜变量框架。它在来自PubChem的7900万药物分子上进行训练,使用SELFIES确保语法有效性。潜变量公式化 enables 条件生成:一个性质预测器提供一个条件信号,其在潜先验、推断网络和解码器之间一致地应用。我们的贡献包括:(i)在SELFIES表示上训练的基于Transformer的潜变量编码器-解码器模型;(ii)用于性质引导生成的原则化条件潜变量公式化;(iii)在编码器和解码器中使用低秩适配器(LoRA)的高效微调,使其能够在有限的性质和活性数据下实现快速适应。在GuacaMol和MOSES基准测试中,我们的方法与或超过基线方法,而且潜在空间分析揭示了平滑、语义结构化的表示,支持无条件探索和性质感知生成。在Tartarus基准测试中,条件模型将结合预测得分的分布向更强的结合倾斜。这些结果表明,配合原则化的条件和参数高效微调,现代化、规模适当的VAE仍然为分子生成竞争。
引用
@article{arxiv.2511.02769,
title = {STAR-VAE: Latent Variable Transformers for Scalable and Controllable Molecular Generation},
author = {Bum Chul Kwon and Ben Shapira and Moshiko Raboh and Shreyans Sethi and Shruti Murarka and Joseph A Morrone and Jianying Hu and Parthasarathy Suryanarayanan},
journal= {arXiv preprint arXiv:2511.02769},
year = {2025}
}
备注
16 pages, 3 figures, 2 tables