子空间绕行:构建在子空间投影上最优的传输方案
机器学习
2019-10-30 v4 机器学习
摘要
在高维空间中计算测度之间的最优传输(OT)受维数灾难所困。避免此灾难的一种流行方法是将输入测度投影到较低维子空间(在切片 Wasserstein 距离的情况下为 1D 直线),在这些降维测度之间求解 OT 问题,并接受这些降维测度之间的 Wasserstein 距离,而非原始测度之间的距离。然而,当希望计算原始测度之间的 OT 映射(Monge 映射)时,这种方法难以推广。由于计算是在低维投影上进行的,经典的映射估计技术只能产生在这些降维维度上操作的映射。我们在本工作中提出两种方法,从一个在子空间上最优的传输映射外推得到在整个空间中近乎最优的映射。我们证明,采用此类“子空间绕行”的最佳最优传输方案是 Knothe-Rosenblatt 传输的推广。我们表明,在比较高斯测度(它们之间的 Wasserstein 距离通常称为 Bures 或 Fréchet 距离)时,这些方案可以被显式表述。我们提供了一种算法,在给定高斯测度对时选择最优子空间,并研究了可利用先验信息选择该中介子空间的场景。我们考虑了在椭圆词嵌入之间的语义中介以及带有高斯混合模型的域适应中的应用。
引用
@article{arxiv.1905.10099,
title = {Subspace Detours: Building Transport Plans that are Optimal on Subspace Projections},
author = {Boris Muzellec and Marco Cuturi},
journal= {arXiv preprint arXiv:1905.10099},
year = {2019}
}