基于点云进行 Wasserstein 逼近的非渐近收敛界
最优化与控制
2021-06-16 v1 机器学习
摘要
机器学习与反问题中的若干课题需要生成离散数据,仿佛从模型概率分布中采样而来。一种常见方法是构造一组 个点上的均匀概率分布,使其最小化与模型分布的 Wasserstein 距离。这一最小化问题中未知量为各原子的位置,是非凸的。然而,在大多数情况下,适当调整后的 Lloyd 算法——其中 Voronoi 单元被 Power 单元替代——会得到具有较小 Wasserstein 误差的构型。这令人惊讶,因为问题再次具有非凸性质,并且存在伪临界点。我们给出了该 Lloyd 型算法收敛速度的显式上界,初始点云中各点彼此足够远离。这在迭代过程的一步之后即已成立,并且对于相应的梯度下降也可推导出类似的上界。这些上界自然导出了 Wasserstein 距离代价的修正 Poliak-Lojasiewicz 不等式,其中误差项依赖于离散分布中 Dirac 质量之间的距离。
引用
@article{arxiv.2106.07911,
title = {Non-asymptotic convergence bounds for Wasserstein approximation using point clouds},
author = {Quentin Merigot and Filippo Santambrogio and Clément Sarrazin},
journal= {arXiv preprint arXiv:2106.07911},
year = {2021}
}