基于得分的生成模型用于分子生成
机器学习
2022-03-10 v1 定量方法
摘要
生成模型的最新进展使得探索设计空间更易于进行从头分子生成。然而,诸如 GAN 和标准化流等流行的生成模型分别面临由于对抗训练和架构约束导致的训练不稳定性等挑战。基于得分的生成模型通过使用得分函数近似对对数概率密度的梯度进行建模,而非直接对密度函数建模,并使用退火朗之万动力学从中采样,从而规避了这些挑战。我们相信基于得分的生成模型可因其架构灵活性(例如用 SE(3) 等变模型替换得分函数)为分子生成开辟新机遇。本工作中,我们通过测试基于得分的模型在分子生成中的功效来奠定基础。我们在 ZINC 数据集 150 万样本的 Self-Referencing Embedded Strings (SELFIES) 表示上训练了一个基于 Transformer 的得分函数,并使用 Moses 基准框架在一组指标上评估生成的样本。
引用
@article{arxiv.2203.04698,
title = {Score-Based Generative Models for Molecule Generation},
author = {Dwaraknath Gnaneshwar and Bharath Ramsundar and Dhairya Gandhi and Rachel Kurchin and Venkatasubramanian Viswanathan},
journal= {arXiv preprint arXiv:2203.04698},
year = {2022}
}