深度生成模型的度量方法
机器学习
2018-02-09 v2 机器学习
摘要
变分自编码器（VAEs）或生成对抗网络（GANs）等神经采样器通过将从简单随机源——潜空间——的采样变换为表示数据集的更复杂分布的采样来逼近分布。虽然流形假设意味着数据集所诱导的密度包含大片的低密度区域，但 VAE 和 GAN 的训练准则将使潜空间被密集覆盖。因此，在观测空间中由低密度区域分隔的点将在潜空间中被推到一起，使得平稳距离难以作为相似性的良好代理。我们将黎曼几何的思想迁移到该设定中，令两点间的距离为该变换所诱导的黎曼流形上的最短路径。该方法给出了一种有原则的距离度量，为深度生成模型的可视化检查提供了工具，并作为潜空间线性插值的替代方案。此外，它可应用于利用先前习得技能的机器人运动泛化。该方法在具有已知真值的合成数据集、模拟机械臂数据集、人体动作捕捉数据以及手写数字生成模型上进行了评估。
引用
@article{arxiv.1711.01204,
title = {Metrics for Deep Generative Models},
author = {Nutan Chen and Alexej Klushyn and Richard Kurle and Xueyan Jiang and Justin Bayer and Patrick van der Smagt},
journal= {arXiv preprint arXiv:1711.01204},
year = {2018}
}
备注
Published on the 21st International Conference on Artificial Intelligence and Statistics (AISTATS), 2018