非平衡 Gromov-Wasserstein 距离:锥规划与松弛
最优化与控制
2023-01-18 v3 机器学习
摘要
比较度量测度空间(即赋予概率分布的度量空间)是许多机器学习问题的核心。此类度量测度空间之间最流行的距离是 Gromov-Wasserstein(GW)距离,它是二次分配问题的解。然而,GW 距离仅限于比较赋予概率分布的度量测度空间。为缓解此问题,我们引入了两种非平衡 Gromov-Wasserstein 公式:一种距离和一个更易处理的界上松弛。它们都允许比较配备任意正测度(直至等距)的度量空间。第一种公式是一种正定散度,基于使用一种新颖的二次齐次散度对质量守恒约束进行松弛。该散度与用于求解大规模最优传输问题的流行熵正则化方法协同良好。我们表明,底层的非凸优化问题可使用高度可并行且对 GPU 友好的迭代格式高效求解。第二种公式是一种基于锥提升的、直至等距的 mm-空间之间的距离。最后,我们在合成示例和带有正-无标记学习任务的域适应数据上提供了数值实验,以凸显该非平衡散度的显著特征及其在机器学习中的潜在应用。
引用
@article{arxiv.2009.04266,
title = {The Unbalanced Gromov Wasserstein Distance: Conic Formulation and Relaxation},
author = {Thibault Séjourné and François-Xavier Vialard and Gabriel Peyré},
journal= {arXiv preprint arXiv:2009.04266},
year = {2023}
}