面向欧氏潜空间等距嵌入的率失真优化引导自编码器
机器学习
2020-09-01 v4 机器学习
摘要
为了分析现实世界中的高维复杂数据，深度生成模型(如变分自编码器(VAE))将数据嵌入到低维空间(潜空间)中，并在潜空间学习概率模型。然而，它们难以从潜空间中的概率分布函数(PDF)准确重构输入空间中的PDF。如果嵌入是等距的，该问题便可解决，因为PDF之间的关系将变得易于处理。为实现等距性质，我们提出了受正交变换编码启发的率失真优化引导自编码器。我们展示了我们的方法具有以下性质：(i) 输入空间与欧氏潜空间之间的雅可比矩阵构成常比例缩放的正交系统，并实现等距数据嵌入；(ii) 两个空间中PDF的关系可变为易处理的关系(如比例关系)。此外，我们的方法在四个公开数据集上的无监督异常检测中优于最先进的方法。
引用
@article{arxiv.1910.04329,
title = {Rate-Distortion Optimization Guided Autoencoder for Isometric Embedding in Euclidean Latent Space},
author = {Keizo Kato and Jing Zhou and Tomotake Sasaki and Akira Nakagawa},
journal= {arXiv preprint arXiv:1910.04329},
year = {2020}
}
备注
Accepted to the International Conference on Machine Learning (ICML) 2020