解耦表示深度生成模型的几何性质
计算机视觉与模式识别
2019-02-20 v1
摘要
变分自编码器等深度生成模型通过学习低维潜空间变量和嵌入函数来近似高维数据流形的内在几何。这些潜空间的几何性质已在黎曼几何视角下，通过对生成函数非线性的分析得到研究。在最新进展中，深度生成模型已被用于学习语义上有意义的“解耦”表示，其捕获与任务相关的属性同时对其他属性保持不变性。本文中，我们探究用于解耦表示学习的流行生成模型的几何性质。我们使用若干度量，从类别可分离性和潜空间曲率方面比较解耦表示模型潜空间的性质。我们得到的结果表明，与变分自编码器相反，解耦潜空间中类别可区分特征表现出更高的曲率。我们在两个不同数据集上评估并比较了三种此类模型与变分自编码器的几何性质。此外，我们的结果表明，利用由空间曲率导出的黎曼度量，潜空间中的距离和插值得到显著改善。我们期望这些结果将对理解如何使深度网络更具鲁棒性、泛化性以及可解释性有所启示。
引用
@article{arxiv.1902.06964,
title = {Geometry of Deep Generative Models for Disentangled Representations},
author = {Ankita Shukla and Shagun Uppal and Sarthak Bhagat and Saket Anand and Pavan Turaga},
journal= {arXiv preprint arXiv:1902.06964},
year = {2019}
}
备注
Accepted at ICVGIP, 2018