分析最近邻分类器对对抗样本的鲁棒性
机器学习
2019-06-20 v6 密码学与安全
机器学习
摘要
出于安全关键应用的动机，通过对抗样本对分类器进行测试时攻击近期受到了广泛关注。然而，对于对抗样本为何产生普遍缺乏理解；它们是源于数据的固有属性还是由于缺乏训练样本，目前尚不清楚。在本研究中，我们引入了一个类似于偏差-方差理论的理论框架来理解这些效应。我们利用该框架分析了一种典型的非参数分类器——k最近邻分类器的鲁棒性。我们的分析表明，其鲁棒性严重依赖于k的取值——当k较小时，该分类器可能本质上是非鲁棒的，但当k快速增大时，其鲁棒性趋近于贝叶斯最优分类器。我们提出了一种新颖的改进型1最近邻分类器，并保证了其在大样本极限下的鲁棒性。我们的实验表明，即使在合理大小的数据集上，该分类器也可能具有良好的鲁棒性。
引用
@article{arxiv.1706.03922,
title = {Analyzing the Robustness of Nearest Neighbors to Adversarial Examples},
author = {Yizhen Wang and Somesh Jha and Kamalika Chaudhuri},
journal= {arXiv preprint arXiv:1706.03922},
year = {2019}
}