剖析基于深度学习的人脸识别对抗攻击鲁棒性
计算机视觉与模式识别
2018-03-02 v1
摘要
基于深度神经网络(DNN)架构的模型具有很高的表达能力和学习能力。然而,它们本质上是一种黑盒方法,因为很难用数学形式化描述其在多层表示中学习到的函数。意识到这一点,许多研究者已开始设计方法来利用基于深度学习的算法的缺陷,质疑其鲁棒性并暴露其奇异性。在本文中,我们试图剖析与DNN人脸识别鲁棒性相关的三个方面:(i)评估深度架构用于人脸识别时,在受现实世界中常见失真(浅层学习方法能很好处理)及基于学习的对抗样本所启发的攻击下的脆弱性;(ii)通过刻画深度网络隐藏层中异常的滤波器响应行为来检测奇异性;以及(iii)对处理流程进行修正以缓解该问题。我们使用多个开源基于DNN的人脸识别网络(包括OpenFace和VGG-Face)以及两个公开数据库(MEDS和PaSC)进行的实验评估表明,此类失真存在时,基于深度学习的人脸识别算法性能会大幅下降。所提方法还与现有检测算法进行了比较,结果表明通过利用网络隐藏层响应适当设计分类器,它能够以极高准确率检测攻击。最后,我们提出了几种有效的对抗措施,以减轻对抗攻击的影响并提升基于DNN的人脸识别的整体鲁棒性。
引用
@article{arxiv.1803.00401,
title = {Unravelling Robustness of Deep Learning based Face Recognition Against Adversarial Attacks},
author = {Gaurav Goswami and Nalini Ratha and Akshay Agarwal and Richa Singh and Mayank Vatsa},
journal= {arXiv preprint arXiv:1803.00401},
year = {2018}
}
备注
Accepted in AAAI 2018 (8 pages, 5 figures, 5 tables)