评估最近邻分类器的鲁棒性：一种对偶视角
机器学习
2019-06-11 v1 机器学习
摘要
我们研究计算最近邻（NN）分类器的最小对抗扰动问题。以往的尝试要么对 NN 模型的连续近似进行攻击，要么通过某些启发式方法搜索扰动。在本文中，我们提出首个能够计算最小对抗扰动的算法。其主要思想是将该问题表述为一列凸二次规划（QP）问题，所提算法可针对 1-NN 模型高效求解。此外，我们表明这些 QP 问题的对偶解能给出对抗扰动的有效下界，可用于形式化鲁棒性验证，从而为我们提供了 NN 模型攻击/验证的良好视角。对于较大 的 -NN 模型，我们表明相同表述可帮助我们高效计算最小对抗扰动的上界与下界，可用于攻击与验证。
引用
@article{arxiv.1906.03972,
title = {Evaluating the Robustness of Nearest Neighbor Classifiers: A Primal-Dual Perspective},
author = {Lu Wang and Xuanqing Liu and Jinfeng Yi and Zhi-Hua Zhou and Cho-Jui Hsieh},
journal= {arXiv preprint arXiv:1906.03972},
year = {2019}
}