从头生成三维分子的等变扩散生成模型设计空间探索
机器学习
2023-11-27 v2
摘要
深度生成扩散模型是材料科学与药物发现中三维从头分子设计的一条有前景的途径。然而,其在大型分子结构和有限训练数据上的次优表现仍限制了其实用性。为弥补这一差距,我们探索了E(3)-等变扩散模型的设计空间,聚焦于先前未被研究的领域。我们广泛的比较分析评估了连续与离散状态空间之间的相互作用。基于该调研,我们提出EQGAT-diff模型,其在QM9和GEOM-Drugs数据集上持续优于已有模型。值得注意的是,EQGAT-diff采用连续的原子位置,而化学元素与键类型为类别型,并使用时间相关损失加权,大幅提升了训练收敛性、生成样本质量与推理时间。我们还展示在扩散过程中加入杂化态等化学驱动的附加特征可增强生成分子的有效性。为进一步加强扩散模型在有限训练数据上的适用性,我们研究了在含隐式氢原子的PubChem3D大数据集上训练的EQGAT-diff向不同数据分布的迁移能力。仅微调EQGAT-diff数次迭代即显示出高效的分布偏移,在各数据集上进一步提升性能。最后,我们在Crossdocked数据集上测试我们的模型用于基于结构的从头配体生成,凸显了我们的发现的重要性——在Vina对接分数上取得了最先进(SOTA)性能。
引用
@article{arxiv.2309.17296,
title = {Navigating the Design Space of Equivariant Diffusion-Based Generative Models for De Novo 3D Molecule Generation},
author = {Tuan Le and Julian Cremer and Frank Noé and Djork-Arné Clevert and Kristof Schütt},
journal= {arXiv preprint arXiv:2309.17296},
year = {2023}
}