面向深度视觉感知的抗对抗样本移动目标防御
计算机视觉与模式识别
2019-05-31 v1 人工智能
摘要
基于深度学习的视觉感知已取得引人注目的准确率，但被证明易受对抗样本攻击。具体而言，一旦攻击者获得深度模型，他们可构造对抗样本以误导模型产生错误分类结果。可部署的对抗样本（如粘贴在道路标志和车道上的小贴纸）已被证明能有效误导高级驾驶辅助系统。许多现有对抗样本对策将其安全性建立在攻击者对防御机制无知之上。因此，它们不符合柯克霍夫原则，且一旦攻击者知晓防御细节便会被颠覆。本文应用移动目标防御（MTD）策略，在系统部署后生成多个新深度模型，协同检测和阻止对抗样本。我们的MTD设计基于对抗样本向不同于（如用于攻击构造的出厂设计模型）模型的微弱可迁移性。部署后的准秘密深度模型显著提高了攻击者构造有效对抗样本的门槛。我们还应用具有早停的串行数据融合技术，在保持感知与防御性能的同时将推理时间减少至多5倍。基于包括道路标志图像数据库和配备GPU的Jetson嵌入式计算板在内的三个数据集的广泛评估显示了我们方法的有效性。
引用
@article{arxiv.1905.13148,
title = {Moving Target Defense for Deep Visual Sensing against Adversarial Examples},
author = {Qun Song and Zhenyu Yan and Rui Tan},
journal= {arXiv preprint arXiv:1905.13148},
year = {2019}
}