隐空间奇异性：论深度生成模型的曲率
机器学习
2021-12-14 v3
摘要
深度生成模型通过一组潜变量以及将潜点映射到输入空间的非线性“生成器”函数，提供了学习非线性数据分布的系统方法。生成器的非线性意味着潜空间给出了输入空间的失真视图。在温和条件下，我们证明这种失真可由随机黎曼度量刻画，并证明在该度量下距离与插值得到显著改善。这进而改进了潜空间中的概率分布、采样算法与聚类。我们的几何分析进一步揭示当前生成器给出的方差估计较差，并提出了一种具有大幅改进方差估计的新生成器架构。结果在卷积与全连接变分自编码器上得到展示，但该形式体系易于推广到其他深度生成模型。
引用
@article{arxiv.1710.11379,
title = {Latent Space Oddity: on the Curvature of Deep Generative Models},
author = {Georgios Arvanitidis and Lars Kai Hansen and Søren Hauberg},
journal= {arXiv preprint arXiv:1710.11379},
year = {2021}
}
备注
Published at International Conference on Learning Representations (ICLR) 2018