松弛 Wasserstein 距离及其在 GAN 中的应用
机器学习
2021-07-20 v8 机器学习
摘要
Wasserstein 生成对抗网络 (WGAN) 提供了一类通用模型，在各类应用中引起了极大关注。然而，该框架存在两个主要缺点：(i) Wasserstein-1（或推土机）距离具有限制性，使得 WGAN 无法始终很好地拟合数据几何结构；(ii) 难以实现 WGAN 的快速训练。本文通过使用 Bregman 代价函数推广 Wasserstein-1 距离，提出了一类新的松弛 Wasserstein (RW) 距离。我们证明 RW 距离在保持计算可处理性的同时，具有良好的统计性质。结合 GAN 框架，我们开发了松弛 WGAN (RWGAN)，它不仅具有统计灵活性，还可以使用启发式方法高效近似。在真实图像上的实验表明，采用 Kullback-Leibler (KL) 代价函数的 RWGAN 优于其他竞争方法，例如 WGAN，即使后者使用了梯度惩罚。
引用
@article{arxiv.1705.07164,
title = {Relaxed Wasserstein with Applications to GANs},
author = {Xin Guo and Johnny Hong and Tianyi Lin and Nan Yang},
journal= {arXiv preprint arXiv:1705.07164},
year = {2021}
}
备注
Accepted by ICASSP 2021; add the references