PCAAE：用于组织生成网络潜空间的主成分分析自编码器
计算机视觉与模式识别
2020-06-16 v1
摘要
自编码器和生成模型产生了迄今为止一些最引人注目的深度学习成果。然而，理解和控制这些模型的潜空间是一个相当大的挑战。从主成分分析和自编码器中汲取灵感，我们提出了主成分分析自编码器（PCAAE）。这是一种新颖的自编码器，其潜空间验证了两个属性。首先，其维度根据手头数据的重要性递减进行组织。其次，潜空间的各个分量在统计上是独立的。我们通过在训练期间逐步增加潜空间，并对潜编码应用协方差损失来实现这一点。由此产生的自编码器产生了一个潜空间，以完全无监督的方式将数据的内在属性分离到潜空间的不同分量中。我们还描述了将我们的方法扩展到强大的、预训练的 GAN 的情况。我们在形状的合成示例和最先进的 GAN 上展示了结果。例如，我们能够在 CelebA 中分离头发和皮肤的颜色深浅、面部姿态和性别，而无需访问任何标签。我们将 PCAAE 与其他最先进的方法进行比较，特别是在潜空间中解耦属性的能力方面。我们希望这种方法将有助于更好地理解强大深度生成模型的内在潜空间。
引用
@article{arxiv.2006.07827,
title = {PCAAE: Principal Component Analysis Autoencoder for organising the latent space of generative networks},
author = {Chi-Hieu Pham and Saïd Ladjal and Alasdair Newson},
journal= {arXiv preprint arXiv:2006.07827},
year = {2020}
}
备注
Preprint with Appendix