熵正则化对平滑 Wasserstein 估计量的潜在益处探讨
机器学习
2024-10-30 v3 应用统计
统计方法学
摘要
本文通过统计学中近似误差与估计误差之间的经典权衡视角,研究最优传输中的熵正则化作为一种用于平滑 Wasserstein 估计量的方法。Wasserstein 估计量被定义为变分问题的解,其目标函数涉及在概率测度之间使用最优传输代价。此类估计量可通过用传输方案上的熵罚项替换最优传输代价为其正则化版本而加以正则化。这种正则化的使用对所得估计量具有潜在的显著平滑效应。在本工作中,我们研究其对正则化 Wasserstein 估计量在近似与估计性质上的潜在益处。我们的主要贡献在于讨论在涉及分布数据分析的统计学习问题中,熵正则化如何以更低的计算成本达到与未正则化 Wasserstein 估计量相当的统计性能。为此,我们给出了关于正则化 Wasserstein 估计量收敛性的新理论结果。我们还利用模拟与真实数据,在基于最优传输的混合模型比例估计监督学习问题中研究了它们的数值性能。
引用
@article{arxiv.2210.06934,
title = {On the potential benefits of entropic regularization for smoothing Wasserstein estimators},
author = {Jérémie Bigot and Paul Freulon and Boris P. Hejblum and Arthur Leclaire},
journal= {arXiv preprint arXiv:2210.06934},
year = {2024}
}
备注
45 pages, 12 figures