面向分子序列生成的变分自编码器损失再平衡
机器学习
2020-01-16 v2 化学物理
机器学习
摘要
分子生成旨在设计具有特定化学性质的新分子并进一步优化所需化学性质。继先前工作,我们将分子编码为潜空间中的连续向量,然后在变分自编码器(VAE)框架下将向量解码为分子。我们研究了当前基于 RNN 的 VAE 在分子序列生成中的后验坍缩问题。我们首次发现被低估的重构损失导致后验坍缩,并提供了理论与实验证据。我们提出了一种有效且高效的解决方案来修复该问题并避免后验坍缩。无需额外技巧,我们的方法在 ZINC 250K 数据集上达到了 SOTA 重构精度与有竞争力的有效性。当从随机先验采样生成 10,000 个唯一有效 SMILES 时,JT-VAE 需 1450s,而我们的方法仅需 9s。我们的实现见 https://github.com/chaoyan1037/Re-balanced-VAE。
引用
@article{arxiv.1910.00698,
title = {Re-balancing Variational Autoencoder Loss for Molecule Sequence Generation},
author = {Chaochao Yan and Sheng Wang and Jinyu Yang and Tingyang Xu and Junzhou Huang},
journal= {arXiv preprint arXiv:1910.00698},
year = {2020}
}
备注
8 pages