非参数分类的鲁棒性：一种通用攻击与防御

对抗鲁棒机器学习近期受到大量关注。然而，针对非参数分类器的先前攻击与防御多以临时或特定于分类器的方式开发。本工作中，我们整体审视非参数分类器（包括最近邻、决策树和随机森林）的对抗样本。我们提供一种通用防御方法——对抗剪枝，通过对数据集进行预处理使其良好分离来工作。为测试我们的防御，我们提供一种适用于广泛非参数分类器的新型攻击。理论上，我们推导出一个最优鲁棒分类器，其类似于贝叶斯最优分类器。我们表明对抗剪枝可视为该最优分类器的有限样本近似。我们通过实验表明，我们的防御与攻击在非参数分类器上优于或可与先前工作竞争。总体而言，我们的结果为未来鲁棒非参数研究提供了强大且广泛适用的基线。代码见 https://github.com/yangarbiter/adversarial-nonparametrics/ 。