利用随机森林防御对抗攻击
计算机视觉与模式识别
2019-06-18 v1 密码学与安全
摘要
随着深度神经网络（DNNs）变得日益重要和流行，DNNs 的鲁棒性成为互联网与物理世界安全的关键。遗憾的是，近期一些研究表明，难以与真实样本区分的对抗样本可以轻易欺骗 DNNs 并操纵其预测。鉴于观察到对抗样本大多由基于梯度的方法生成，本文首先提出使用一种简单却非常有效的不可微混合模型来防御攻击，该模型结合了 DNNs 与随机森林，而非向攻击者隐藏梯度。我们的实验表明，我们的模型能够成功且完全防御白盒攻击，具有较低的可迁移性，并对三类具有代表性的黑盒攻击具有相当强的抵抗能力；同时，我们的模型取得了与原始 DNNs 相似的分类精度。最后，我们研究并给出了一个准则，用以界定在 DNNs 的何处生长随机森林。
引用
@article{arxiv.1906.06765,
title = {Defending Against Adversarial Attacks Using Random Forests},
author = {Yifan Ding and Liqiang Wang and Huan Zhang and Jinfeng Yi and Deliang Fan and Boqing Gong},
journal= {arXiv preprint arXiv:1906.06765},
year = {2019}
}