中文

Wasserstein距离下的鲁棒估计

机器学习 2024-09-25 v2 机器学习 统计理论 统计理论

摘要

我们研究了Wasserstein距离下的鲁棒分布估计问题,这是一种根植于最优传输(OT)理论的概率分布间常用差异度量。给定来自未知分布μ\munn个样本,其中εn\varepsilon n个被对抗性污染,我们寻求一个具有最小Wasserstein误差的μ\mu估计。为解决该任务,我们借助OT与鲁棒统计中的两个框架:部分最优传输(POT)与最小距离估计(MDE)。我们证明了POT的新结构性质,并由此表明,在许多设定下,部分Wasserstein距离下的MDE达到了极小极大最优的鲁棒估计风险。在此过程中,我们推导了POT的一种新对偶形式,其向标准OT的经典Kantorovich对偶添加了上确界范数惩罚。由于流行的Wasserstein生成对抗网络(WGAN)框架通过Kantorovich对偶实现Wasserstein MDE,我们的惩罚对偶通过对WGAN的简易修改,即可实现在污染数据集上的大规模生成建模。我们提供了数值实验,证明了我们的方法在减轻对抗性污染影响方面的有效性。

关键词

引用

@article{arxiv.2302.01237,
  title  = {Robust Estimation under the Wasserstein Distance},
  author = {Sloan Nietert and Rachel Cummings and Ziv Goldfeld},
  journal= {arXiv preprint arXiv:2302.01237},
  year   = {2024}
}