扩散桥向量量化变分自编码器
机器学习
2022-08-04 v2
摘要
向量量化变分自编码器 是基于数据离散潜在表示的生成模型，其中输入被映射到一组有限的已学习嵌入上。为了生成新样本，必须在离散状态上单独训练一个自回归先验分布。这种先验通常非常复杂，导致生成速度缓慢。在本工作中，我们提出了一种新模型，可以同时训练先验和编码器/解码器网络。我们在连续编码向量和无信息先验分布之间构建了一座扩散桥。潜在离散状态则作为这些连续向量的随机函数给出。我们表明，我们的模型在 mini-Imagenet 和 CIFAR 数据集上与自回归先验具有竞争力，并且在优化和采样方面都很高效。我们的框架还扩展了标准的 VQ-VAE 并实现了端到端训练。
引用
@article{arxiv.2202.04895,
title = {Diffusion bridges vector quantized Variational AutoEncoders},
author = {Max Cohen and Guillaume Quispe and Sylvain Le Corff and Charles Ollion and Eric Moulines},
journal= {arXiv preprint arXiv:2202.04895},
year = {2022}
}