使用集成色彩空间模型应对对抗样本
计算机视觉与模式识别
2020-03-12 v1 密码学与安全
摘要
图像中微小的像素改变会剧烈改变深度学习模型做出的预测。由此可能引发的最重大问题之一例如自动驾驶。已提出许多方法来对抗此现象，成功程度不一。我们提出一种防御此类攻击的三步法。首先，我们使用统计方法对图像去噪。其次，我们表明在同一模型中采用多个色彩空间可进一步帮助我们对抗这些对抗攻击，因为每个色彩空间检测到其特有的某些特征。最后，生成的特征图被放大并作为输回输入以获得更小的特征。我们表明所提模型无需训练以防御特定类型攻击，且对黑盒、白盒和灰盒对抗攻击技术固有地更鲁棒。特别地，在模型未接受对抗样本训练的情况下，该模型在白盒攻击场景中比对比模型鲁棒性高 56.12%。
引用
@article{arxiv.2003.05005,
title = {Using an ensemble color space model to tackle adversarial examples},
author = {Shreyank N Gowda and Chun Yuan},
journal= {arXiv preprint arXiv:2003.05005},
year = {2020}
}