中文

通过最优传输与最优耦合的对抗风险

机器学习 2020-12-24 v2 信息论 math.IT 机器学习

摘要

现代机器学习算法在对抗性操纵的数据上表现不佳。对抗风险量化了分类器在对抗环境中的误差;对抗分类器最小化对抗风险。在本文中,我们从最优传输视角分析对抗风险与对抗分类器。我们证明具有 0-1 损失的二分类的最优对抗风险由两类概率分布之间的最优传输代价决定。我们为单变量分布(如正态、均匀与三角分布)发展最优传输方案(概率耦合)。我们还推导这些设定下的最优对抗分类器。我们的分析给出了与算法无关的对抗风险基本极限,并为若干真实世界数据集计算了该极限。我们将结果推广到凸性与平滑性假定下的一般损失函数。

关键词

引用

@article{arxiv.1912.02794,
  title  = {Adversarial Risk via Optimal Transport and Optimal Couplings},
  author = {Muni Sreenivas Pydi and Varun Jog},
  journal= {arXiv preprint arXiv:1912.02794},
  year   = {2020}
}

备注

Revised version with 43 pages and 8 figures