用于混合分布的正规化 Wasserstein 距离及其在对抗学习与域适应中的应用
机器学习
2019-10-30 v2 机器学习
摘要
理解分布间的恰当距离度量是以生成模型、域适应、聚类等为代表的数个学习任务的核心。在本工作中,我们关注在多个应用领域自然出现的混合分布,其中数据包含不同子群体。对于混合分布,已确立的距离度量如 Wasserstein 距离未考虑不平衡的混合比例。因此,即使两个混合分布具有相同的混合成分但不同的混合比例,它们之间的 Wasserstein 距离也会很大。这常导致基于距离的混合分布学习方法出现不期望的结果。本文中,我们通过引入正规化 Wasserstein 度量解决了该问题。关键思想是将混合比例作为优化变量引入,从而在 Wasserstein 公式中有效地正规化混合比例。与使用原始 Wasserstein 距离相比,所提正规化 Wasserstein 度量在具有不平衡混合比例的混合分布上带来了显著的性能提升。我们在多个基准数据集上展示了所提度量在 GAN、域适应和对抗聚类中的有效性。
引用
@article{arxiv.1902.00415,
title = {Normalized Wasserstein Distance for Mixture Distributions with Applications in Adversarial Learning and Domain Adaptation},
author = {Yogesh Balaji and Rama Chellappa and Soheil Feizi},
journal= {arXiv preprint arXiv:1902.00415},
year = {2019}
}
备注
Accepted at ICCV 2019