跨不同空间循环一致概率散度
机器学习
2021-11-23 v1 机器学习
摘要
概率分布之间的差异度量是统计推断与机器学习的核心。在许多应用中,感兴趣的分布支撑于不同空间上,然而仍需要数据点间有意义的对应。为将一致的双向映射显式编码进差异度量,本文提出一种新颖的非平衡Monge最优传输公式,用于在不同空间上(直至等距)匹配分布。我们的公式作为度量空间间Gromov-Haussdroff距离的合理性松弛而出现,并采用两个循环一致映射将各分布推前到另一分布上。我们研究了所提散度的结构性质,特别地,表明它将流行的循环一致生成对抗网络(GAN)框架作为特例涵盖,从而提供解释该框架的理论。受计算效率驱动,我们随后对散度进行核化并将映射限制于参数化函数类。所得核化版本被称为广义最大均值差异(GMMD)。研究了GMMD经验估计的收敛速率,并提供了支撑我们理论的实验。
引用
@article{arxiv.2111.11328,
title = {Cycle Consistent Probability Divergences Across Different Spaces},
author = {Zhengxin Zhang and Youssef Mroueh and Ziv Goldfeld and Bharath K. Sriperumbudur},
journal= {arXiv preprint arXiv:2111.11328},
year = {2021}
}
备注
35 pages