通过定向权重扰动为卷积神经网络植入后门
计算机视觉与模式识别
2018-12-10 v1
摘要
我们提出一类新型后门攻击，其利用了卷积神经网络（CNNs）此前未被研究的漏洞。具体而言，我们考察人脸识别中的应用。深度学习技术在人脸识别中处于领先地位，这意味着它们现已被部署于许多生产级系统中。令人担忧的是，不同于操作系统与网络设备等其它商业技术，基于深度学习的人脸识别算法目前并未按安全要求设计，也未在部署前进行安全漏洞审计。鉴于该技术尚年轻且这些算法的诸多内部运作十分抽象，基于神经网络的人脸识别系统成为安全突破的首要目标。随着越来越多个人信息开始由人脸识别守护（如 iPhone X），从渗透测试角度探索这些系统的安全漏洞至关重要。循此，我们描述了一种通过定向权重扰动为 CNN 植入后门的通用方法。以五层 CNN 与 ResNet-50 为案例，我们表明攻击者能够在显著抬高其所提供输入被 CNN 误接受几率的同时，保持合法注册类的错误率不变。
引用
@article{arxiv.1812.03128,
title = {Backdooring Convolutional Neural Networks via Targeted Weight Perturbations},
author = {Jacob Dumford and Walter Scheirer},
journal= {arXiv preprint arXiv:1812.03128},
year = {2018}
}