InfoGAN-CR 与 ModelCentrality：用于解耦 GAN 的自监督模型训练与选择
机器学习
2020-08-10 v3 机器学习
摘要
解耦生成模型将潜码向量映射到目标空间，同时强制要求所学潜码的一个子集是可解释的并与目标分布的不同属性相关联。最近的进展主要由基于变分自编码器（VAE）的方法主导，而训练解耦生成对抗网络（GANs）仍然具有挑战性。在这项工作中，我们展示了面对解耦 GAN 的主要挑战可以通过使用自监督来缓解。我们做出两项主要贡献：首先，我们设计了一种利用自监督训练解耦 GAN 的新方法。我们提出了对比正则化器，其灵感来自解耦的自然概念：潜变量遍历。这比最先进的基于 VAE 和 GAN 的方法实现了更高的解耦分数。其次，我们提出了一种称为 ModelCentrality 的无监督模型选择方案，它使用生成的合成样本来计算一组模型的 medoid（中位数的多维推广）。当前超参数调整的通用做法需要使用带有已知完美解耦潜码标签的真实样本。由于真实数据集未配备此类标签，我们提出了一种无监督模型选择方案，并展示它为 VAE 和 GAN 都找到了接近最佳模型的模型。将对比正则化与 ModelCentrality 结合，我们在不访问监督数据的情况下显著改进了最先进的解耦分数。
引用
@article{arxiv.1906.06034,
title = {InfoGAN-CR and ModelCentrality: Self-supervised Model Training and Selection for Disentangling GANs},
author = {Zinan Lin and Kiran Koshy Thekumparampil and Giulia Fanti and Sewoong Oh},
journal= {arXiv preprint arXiv:1906.06034},
year = {2020}
}
备注
Published in ICML 2020. 45 pages, 52 figures, a new unsupervised model selection scheme (ModelCentrality) is introduced in this version