关于深度 K 近邻的鲁棒性
密码学与安全
2019-03-21 v1 机器学习
摘要
尽管对抗样本受到大量关注，但极少有工作展示出针对该威胁的有效防御。我们考察深度 k 近邻 (DkNN)，一种结合 k 近邻 (kNN) 与深度学习以提升模型对抗样本鲁棒性的拟议防御方法。由于缺乏针对具有大 值和高维数据的 kNN 分类器的高效攻击算法，评估该方案的鲁棒性颇具挑战。我们提出一种启发式攻击，使我们能够利用梯度下降为 kNN 分类器寻找对抗样本，并进而将其用于攻击 DkNN 防御。结果表明，我们的攻击比任何针对 kNN 的朴素攻击略强，且显著优于其他针对 DkNN 的攻击。
引用
@article{arxiv.1903.08333,
title = {On the Robustness of Deep K-Nearest Neighbors},
author = {Chawin Sitawarin and David Wagner},
journal= {arXiv preprint arXiv:1903.08333},
year = {2019}
}
备注
Published at Deep Learning and Security Workshop 2019 (IEEE S&P)