使用trVAE对未配对数据进行条件外样本生成
机器学习
2019-10-31 v2 图像与视频处理
细胞行为
基因组学
机器学习
摘要
尽管生成模型在基于低维描述符生成高维样本（如学习MNIST中的笔画粗细、CelebA中的发色或Wavenet中的说话人身份）方面已取得巨大成功，其外样本生成仍带来根本性难题。作为简单条件生成模型的条件变分自编码器（CVAE）在训练时并未显式关联条件，因此缺乏学习跨条件紧凑联合分布的驱动力。我们通过在使用瓶颈之后的解码器层中利用最大均值差异（MMD）匹配其分布，克服了该局限。这为同条件内样本重建与跨条件样本转换均引入了强正则化，从而大幅改善泛化能力。我们将该架构称为\emph{transformer} VAE（trVAE）。在高维图像与表格数据上对trVAE进行基准测试，我们展示了比现有方法更高的鲁棒性与准确率。特别地，基于高维单细胞基因表达数据，我们在对治疗与疾病的细胞扰动响应预测上展示了定性改进，解决了此前有问题的少数类与多条件难题。对于通用任务，我们将高维估计均值与方差与其真实值的Pearson相关系数分别从0.89提升至0.97、从0.75提升至0.87。
引用
@article{arxiv.1910.01791,
title = {Conditional out-of-sample generation for unpaired data using trVAE},
author = {Mohammad Lotfollahi and Mohsen Naghipourfar and Fabian J. Theis and F. Alexander Wolf},
journal= {arXiv preprint arXiv:1910.01791},
year = {2019}
}
备注
Added reference to Johansson et al. (2016) and removed sentences from Lopez et al. (2018) in the background section (see acknowledgements)