投射麻烦:基于光的深度学习分类器对抗攻击
计算机视觉与模式识别
2018-10-25 v1 机器学习
机器学习
摘要
本工作展示了一种利用投射光至物理场景对深度学习图像分类系统实施的物理攻击。先前工作主要集中于创建直接操纵分类器数字输入的对抗样本技术。此类攻击局限于 adversary 可直接更新分类器输入的场景,例如拦截并修改 Clarifai 或 Cloud Vision 等在线 API 的输入。此类局限催生了一类关于物理攻击的研究,即构造本身具有对抗性的物体或添加对抗性修改以导致误分类。我们的工作不同于其他物理攻击:无需永久改变物理物体即可动态引发误分类。我们搭建了一个实验装置,包括光源投影仪、待分类物体以及捕捉场景的相机。实验针对来自 CIFAR-10 的 2D 与 3D 物体展开。初步测试表明,通过差分进化选取的投射光模式可将 2D 与 3D 目标的分类概率分别从 98% 降至 22%、从 89% 降至 43%。后续实验探究了对物理装置的敏感性,并针对全部 10 个 CIFAR 类别比较了两种额外基线条件。部分物理目标更易受扰动影响。简单攻击显示出近乎等同的成功率,且 10 个类别中有 6 个被光干扰。
引用
@article{arxiv.1810.10337,
title = {Projecting Trouble: Light Based Adversarial Attacks on Deep Learning Classifiers},
author = {Nicole Nichols and Robert Jasper},
journal= {arXiv preprint arXiv:1810.10337},
year = {2018}
}