数据空间中具有核距离的生成模型
机器学习
2020-09-17 v1 计算机视觉与模式识别
机器学习
摘要
处理联合数据分布建模的生成模型通常基于自编码器或 GAN。二者各有优劣,分别生成模糊图像,或训练不稳定,或易出现模式崩溃现象。本文旨在构建一种介于上述架构之间的模型,其不继承它们的主要弱点。所提出的 LCW 生成器(Latent Cramer-Wold generator,潜空间 Cramer-Wold 生成器)在将高斯噪声变换至数据空间方面类似经典 GAN。最为关键的是,LCW 生成器使用核距离替代判别器。由于未采用对抗训练,故称之为生成器。其分两阶段训练。首先,构建基于自编码器、使用核度量的架构以建模数据流形。我们提出潜空间技巧(Latent Trick)将高斯映射至潜空间以获得最终模型。这带来了极具竞争力的 FID 值。
引用
@article{arxiv.2009.07327,
title = {Generative models with kernel distance in data space},
author = {Szymon Knop and Marcin Mazur and Przemysław Spurek and Jacek Tabor and Igor Podolak},
journal= {arXiv preprint arXiv:2009.07327},
year = {2020}
}