利用深度 LSD 在 GAN 潜空间中构建对应实空间意义的算子
机器学习
2021-02-11 v1 软凝聚态物质
摘要
生成模型依赖于一个关键思想，即数据可以用本质上不相关的潜变量表示。不相关性很重要，因为它表明潜空间流形更易于理解和操控。生成模型在深度学习中被广泛使用，例如变分自编码器（VAEs）和生成对抗网络（GANs）。这里我们提出一种在 GAN 的潜空间中构建一组线性无关向量的方法，我们称之为准特征向量。这些准特征向量有两个关键性质：i) 它们张成整个潜空间；ii) 这些准特征向量的一个集合与每个有标签特征一一映射。我们展示在 MNIST 的例子中，虽然潜空间的维数在构造上很大，但实空间中 98% 的数据映射到维数等于标签数的潜空间子域。我们随后展示准特征值如何用于潜谱分解（LSD），其在图像去噪以及执行潜空间中的矩阵运算（映射到实空间中的特征变换）方面有应用。我们展示了该方法如何提供对潜空间拓扑的洞察。关键在于，准特征向量集合构成潜空间的一组基，且每个方向对应于实空间中的一个特征。
引用
@article{arxiv.2102.05132,
title = {Using Deep LSD to build operators in GANs latent space with meaning in real space},
author = {J. Quetzalcoatl Toledo-Marin and James A. Glazier},
journal= {arXiv preprint arXiv:2102.05132},
year = {2021}
}
备注
9pp, 8 figs, 1 pseudocode, code available