WGAN 对 Wasserstein 度量估计得有多好？
机器学习
2019-10-10 v1 机器学习
摘要
生成建模通常被表述为最小化数据分布与模型分布之间的相似性度量。近来，该相似性度量的一个流行选择是 Wasserstein 度量，它可在 Kantorovich 对偶表述中写为真实数据分布与模型假设下势函数期望值的优化差值。实践中，势由神经网络近似并称为判别器。判别器函数类的对偶约束被近似地强制满足，期望值由样本估计。这至少带来三种误差来源：近似的判别器与约束、期望值估计，以及寻找最优势所需的优化。本工作中，我们研究所用于生成对抗网络中以近似 Wasserstein 度量的方法的性能。我们特别考虑 -变换表述，其消除了显式强制约束的需要。我们证明 -变换允许从样本更准确地估计真实 Wasserstein 度量，但令人惊讶的是，在生成设定中并非表现最佳。
引用
@article{arxiv.1910.03875,
title = {How Well Do WGANs Estimate the Wasserstein Metric?},
author = {Anton Mallasto and Guido Montúfar and Augusto Gerolin},
journal= {arXiv preprint arXiv:1910.03875},
year = {2019}
}
备注
23 pages