中文

论高效最优传输:贪心与加速镜像下降算法分析

数据结构与算法 2021-07-27 v6

摘要

我们针对两种求解两个至多含 nn 个原子的离散概率分布之间正则化最优传输问题的算法进行了理论分析。我们证明了经典 Sinkhorn 算法的贪心变体,即 \emph{Greenkhorn 算法},可以改进至 O~(n2ε2)\widetilde{\mathcal{O}}(n^2\varepsilon^{-2}),优于此前已知的最佳复杂度界 O~(n2ε3)\widetilde{\mathcal{O}}(n^2\varepsilon^{-3})。值得注意的是,这与 Sinkhorn 算法已知的最佳复杂度界相匹配,有助于解释为何 Greenkhorn 算法在实践中能优于 Sinkhorn 算法。我们的证明技术基于原始-对偶表述以及对偶解的新颖上界,还催生了一类我们称之为 \emph{自适应原始-对偶加速镜像下降} (APDAMD) 算法的新算法。我们证明了这些算法的复杂度为 O~(n2δε1)\widetilde{\mathcal{O}}(n^2\sqrt{\delta}\varepsilon^{-1}),其中 δ>0\delta > 0 是指 Bregman 散度关于 \|\cdot\|_\infty 的强凸性模的倒数。这表明在 ε\varepsilon 方面,APDAMD 算法比 Sinkhorn 和 Greenkhorn 算法更快。在合成数据集和真实数据集上的实验结果证明了 Greenkhorn 和 APDAMD 算法在实践中具有良好的性能。

关键词

引用

@article{arxiv.1901.06482,
  title  = {On Efficient Optimal Transport: An Analysis of Greedy and Accelerated Mirror Descent Algorithms},
  author = {Tianyi Lin and Nhat Ho and Michael I. Jordan},
  journal= {arXiv preprint arXiv:1901.06482},
  year   = {2021}
}

备注

Derive the explicit dual objective function for APDAMD (Remark 4.2) which satisfies Lemma~4.1; Accepted by ICML 2019; The longer version is available here: arXiv:1906.01437