几何感知的哈密顿变分自编码器
机器学习
2020-10-23 v1 机器学习
微分几何
统计理论
统计理论
摘要
变分自编码器（VAEs）已被证明是一种适用的工具，可通过提取位于可能比数据维数小得多的潜在变量来进行降维。当考虑到它们生成新的逼真样本或在小得多的空间中进行潜在有意义插值的能力时，它们从数据中提取有意义信息的能力很容易理解。然而，当在医学等许多现实领域 abundant 的小数据集上训练时，此类生成模型可能表现不佳。这可能尤其源于潜在空间缺乏结构，其几何形状常被忽视。因此，我们在本文中提议将潜在空间视为一个黎曼流形，其上赋予一个与编码器和解码器网络同时学习的参数化度量。该度量随后被用于我们称之为黎曼哈密顿 VAE 的模型中，其扩展了 arXiv:1805.11328 引入的哈密顿 VAE，以更好地利用潜在空间的底层几何。我们认为，此种潜在空间建模提供了关于其底层结构的有用信息，从而带来更有意义的插值、更逼真的数据生成以及更可靠的聚类。
引用
@article{arxiv.2010.11518,
title = {Geometry-Aware Hamiltonian Variational Auto-Encoder},
author = {Clément Chadebec and Clément Mantoux and Stéphanie Allassonnière},
journal= {arXiv preprint arXiv:2010.11518},
year = {2020}
}
备注
44 pages, 23 figures