重新审视对抗风险
机器学习
2019-03-26 v5 机器学习
摘要
近期关于对抗扰动的研究表明，标准测试准确率与对抗准确率之间存在固有的权衡。具体而言，它们表明没有任何分类器能够同时对抗扰动具有鲁棒性并取得高的标准测试准确率。然而，这与标准观念相悖，即在图像分类等任务上，人类是误差率低的鲁棒分类器。在这项工作中，我们表明造成这种混淆的主要原因在于文献中使用的对抗扰动定义不精确。为修正此问题，我们对现有的对抗扰动定义提出一个微小但重要的修改。基于修改后的定义，我们表明对抗准确率与标准准确率之间不存在权衡；存在既鲁棒又取得高标准准确率的分类器。我们进一步研究了这一新对抗风险定义的若干性质及其与现有定义的关系。
引用
@article{arxiv.1806.02924,
title = {Revisiting Adversarial Risk},
author = {Arun Sai Suggala and Adarsh Prasad and Vaishnavh Nagarajan and Pradeep Ravikumar},
journal= {arXiv preprint arXiv:1806.02924},
year = {2019}
}