通过泛函梯度下降的 Sinkhorn 重心
机器学习
2020-07-22 v1 机器学习
摘要
本文考虑在 Sinkhorn 散度下计算一组概率分布重心的问题。该问题近来在图形学、学习与视觉等多个领域找到应用，因其提供了聚合知识的有意义机制。与以往直接在概率测度空间中操作的方法不同，我们将 Sinkhorn 重心问题重构为无约束泛函优化的实例，并发展了一种名为 Sinkhorn 下降（SD）的新颖泛函梯度下降方法。我们证明 SD 以亚线性速率收敛至驻点，且在合理假设下进一步证明其渐近地找到 Sinkhorn 重心问题的全局极小元。此外，通过提供平均场分析，我们表明 SD 保持经验测度的弱收敛。重要的是，SD 的计算复杂度随维度 线性缩放，并通过求解一个 维 Sinkhorn 重心问题展示了其可扩展性。
引用
@article{arxiv.2007.10449,
title = {Sinkhorn Barycenter via Functional Gradient Descent},
author = {Zebang Shen and Zhenfu Wang and Alejandro Ribeiro and Hamed Hassani},
journal= {arXiv preprint arXiv:2007.10449},
year = {2020}
}
备注
submitted to NIPS 2020