中文

计算最优传输与 Wasserstein 重心的高效算法

数据结构与算法 2020-06-16 v4 机器学习 机器学习

摘要

我们为新算法提供了理论复杂度分析,用于计算两个离散概率分布之间的最优传输(OT)距离,并通过实验展示了它们在大规模问题(如多个概率分布的 Wasserstein 重心问题)上优于当前最先进的原始对偶算法,以及解决实际问题的能力。首先,我们引入用于计算 OT 距离的加速原始对偶随机坐标下降(APDRCD)算法。我们给出了其复杂度上界 \bigOtil(n5/2ε)\bigOtil(\frac{n^{5/2}}{\varepsilon}),其中 nn 表示这些概率测度的原子个数,ε>0\varepsilon > 0 为期望精度。该复杂度界与已知的 OT 问题原始对偶算法最佳复杂度一致,包括自适应原始对偶加速梯度下降(APDAGD)和自适应原始对偶加速镜像下降(APDAMD)算法。随后,我们通过大量实验研究展示了 APDRCD 算法优于 APDAGD 和 APDAMD 算法,并通过提出其贪婪版本(我们称之为加速原始对偶贪婪坐标下降(APDGCD))进一步提升了其实用性能。最后,我们将 APDRCD 和 APDGCD 算法推广为用于计算多个概率分布 Wasserstein 重心的分布式算法。

关键词

引用

@article{arxiv.1905.09952,
  title  = {Fast Algorithms for Computational Optimal Transport and Wasserstein Barycenter},
  author = {Wenshuo Guo and Nhat Ho and Michael I. Jordan},
  journal= {arXiv preprint arXiv:1905.09952},
  year   = {2020}
}

备注

18 pages, 35 figures