中文

基于潜在高斯分布的双曲VAE

机器学习 2023-10-31 v3 人工智能

摘要

我们提出了一种高斯流形变分自编码器(GM-VAE),其潜在空间由一组高斯分布构成。已知具有Fisher信息度量的单变量高斯分布集合构成一个双曲空间,我们称之为高斯流形。为了学习赋予高斯流形的VAE,我们基于Kullback-Leibler散度(平方Fisher-Rao距离的局部近似)提出了一种伪高斯流形正态分布,以定义潜在空间上的密度。在实验中,我们展示了GM-VAE在两项不同任务上的有效性:图像数据集的密度估计和基于模型的强化学习中的环境建模。GM-VAE在密度估计任务上优于其他双曲和欧氏VAE变体,并在基于模型的强化学习中表现出有竞争力的性能。我们观察到,我们的模型提供了很强的数值稳定性,解决了先前双曲VAE中报道的一个常见局限。

关键词

引用

@article{arxiv.2209.15217,
  title  = {Hyperbolic VAE via Latent Gaussian Distributions},
  author = {Seunghyuk Cho and Juyong Lee and Dongwoo Kim},
  journal= {arXiv preprint arXiv:2209.15217},
  year   = {2023}
}

备注

20 pages, Thirty-seventh Conference on Neural Information Processing System, 2023