中文

Wasserstein 重心的分散式算法

最优化与控制 2021-10-26 v2

摘要

在本论文中,我们从计算与统计两方面考虑离散概率测度的 Wasserstein 重心问题。统计方面的重点是估计计算概率分布 Fréchet 均值(重心)给定精度近似所需的测度样本量。对于经验风险最小化方法,我们还研究了正则化问题,并提出了一种新的正则化,其与二次正则化相比有助于更好的复杂度界。计算方面的重点是开发计算 Wasserstein 重心的算法:既可分散式执行的原始与对偶算法。对偶方法的动机是熵正则化 Wasserstein 距离及其导数的对偶形式具有闭式解,而原始形式仅在某些情况下(如高斯测度)有闭式表达。此外,返回熵正则化 Wasserstein 距离对偶表示梯度的对偶预言机,其计算代价比返回熵正则化 Wasserstein 距离梯度的原始预言机更便宜。此时对偶预言机的调用次数也更少,即原始预言机调用次数的平方根。这解释了用于 Wasserstein 重心问题的一阶对偶方法的成功应用。

关键词

引用

@article{arxiv.2105.01587,
  title  = {Decentralized Algorithms for Wasserstein Barycenters},
  author = {Darina Dvinskikh},
  journal= {arXiv preprint arXiv:2105.01587},
  year   = {2021}
}

备注

103 pages, Masters thesis. arXiv admin note: text overlap with arXiv:2001.07697