GAN 与标准化流用于密度估计的实证比较
机器学习
2021-12-15 v2 机器学习
摘要
生成对抗网络(GAN)与标准化流均为密度估计方法,利用深度神经网络将无信息先验分布的样本变换为数据分布的近似。二者在通用统计建模中均受极大关注,但极少针对非图像数据的建模相互比较。GAN 作为隐式模型难以计算似然,使此类比较颇具挑战。我们通过考虑若干低维合成数据集规避此困难。对 GAN 架构、超参数与训练过程的广泛网格搜索表明,无一 GAN 能良好建模我们简单的低维数据——我们将此任务视为一种方法被视为适于通用统计建模的先决条件。另一方面,若干标准化流在这些任务中表现出色,甚至在 Wasserstein 距离(唯 WGAN 所针对的度量)上大幅优于 WGAN。科学家及其他从业者在需要准确密度估计的应用中依赖 WGAN 时应保持谨慎。
引用
@article{arxiv.2006.10175,
title = {An Empirical Comparison of GANs and Normalizing Flows for Density Estimation},
author = {Tianci Liu and Jeffrey Regier},
journal= {arXiv preprint arXiv:2006.10175},
year = {2021}
}
备注
Accepted by the NeurIPS 2021 Bayesian Deep Learning workshop