Wasserstein距离下的鲁棒估计
机器学习
2024-09-25 v2 机器学习
统计理论
统计理论
摘要
我们研究了Wasserstein距离下的鲁棒分布估计问题,这是一种根植于最优传输(OT)理论的概率分布间常用差异度量。给定来自未知分布的个样本,其中个被对抗性污染,我们寻求一个具有最小Wasserstein误差的估计。为解决该任务,我们借助OT与鲁棒统计中的两个框架:部分最优传输(POT)与最小距离估计(MDE)。我们证明了POT的新结构性质,并由此表明,在许多设定下,部分Wasserstein距离下的MDE达到了极小极大最优的鲁棒估计风险。在此过程中,我们推导了POT的一种新对偶形式,其向标准OT的经典Kantorovich对偶添加了上确界范数惩罚。由于流行的Wasserstein生成对抗网络(WGAN)框架通过Kantorovich对偶实现Wasserstein MDE,我们的惩罚对偶通过对WGAN的简易修改,即可实现在污染数据集上的大规模生成建模。我们提供了数值实验,证明了我们的方法在减轻对抗性污染影响方面的有效性。
引用
@article{arxiv.2302.01237,
title = {Robust Estimation under the Wasserstein Distance},
author = {Sloan Nietert and Rachel Cummings and Ziv Goldfeld},
journal= {arXiv preprint arXiv:2302.01237},
year = {2024}
}