中文

具有潜空间一致性的 Wasserstein 自编码器的统计再生保证

机器学习 2021-10-11 v1 机器学习

摘要

变分自编码器(Variational Autoencoders, VAE)的提出被誉为表示学习模型史上的突破。VAE不仅自身拥有诸多赞誉,还成功引发了一系列以其直接后继形式出现的发明。Wasserstein自编码器(Wasserstein Autoencoder, WAE)作为该领域的继承者,承载了所有的优点并增强了生成承诺,甚至可与生成对抗网络(generative adversarial networks, GANs)相媲美。毋庸置疑,近年来对GANs的统计分析出现了显著复兴。然而,尽管自编码器具有广泛的适用性和显著的实证性能,针对它们的类似研究在很大程度上仍然缺失。为弥补这一差距,本文研究了WAE的统计性质。首先,我们利用Vapnik Chervonenkis(VC)理论,提供了WAE在潜空间中达到目标分布的统计保证。主要结果进而借助Wasserstein度量下测度最优传输(Optimal Transport)的潜力,确保了输入分布的再生。该研究所暗示了WAE在经历以潜律形式出现的压缩后能够重构的分布类。

关键词

引用

@article{arxiv.2110.03995,
  title  = {Statistical Regeneration Guarantees of the Wasserstein Autoencoder with Latent Space Consistency},
  author = {Anish Chakrabarty and Swagatam Das},
  journal= {arXiv preprint arXiv:2110.03995},
  year   = {2021}
}

备注

Accepted for Spotlight Presentation at NeurIPS 2021