超球面变分自编码器
机器学习
2022-09-28 v3 机器学习
摘要
变分自编码器（VAE）是最常用的无监督机器学习模型之一。但是，尽管为先验和后验分布选择默认的高斯分布代表了一种数学上便利的分布，且通常能带来有竞争力的结果，我们表明这种参数化无法对具有潜在超球面结构的数据进行建模。为了解决这个问题，我们提出改用 von Mises-Fisher (vMF) 分布，从而得到一个超球面潜在空间。通过一系列实验，我们展示了这种超球面 VAE（或 -VAE）如何更适合于捕捉具有超球面潜在结构的数据，同时在低维情况下对于其他类型的数据也优于普通的 -VAE。代码位于 http://github.com/nicola-decao/s-vae-tf 和 https://github.com/nicola-decao/s-vae-pytorch
引用
@article{arxiv.1804.00891,
title = {Hyperspherical Variational Auto-Encoders},
author = {Tim R. Davidson and Luca Falorsi and Nicola De Cao and Thomas Kipf and Jakub M. Tomczak},
journal= {arXiv preprint arXiv:1804.00891},
year = {2022}
}
备注
Code at http://github.com/nicola-decao/s-vae-tf and https://github.com/nicola-decao/s-vae-pytorch, Blogpost: https://nicola-decao.github.io/s-vae