快速几何扰动对抗人脸
机器学习
2018-10-01 v2 密码学与安全
计算机视觉与模式识别
机器学习
摘要
深度学习算法最先进的性能导致机器学习在安全敏感与关键应用中的使用大幅增加。然而，最近研究表明，输入空间中微小且精心设计的扰动可完全欺骗深度模型。在本研究中，我们探究人脸识别系统对几何扰动对抗人脸的脆弱程度。我们提出一种用于生成对抗人脸的快速关键点操控方法，其速度约为先前几何攻击的200倍，并在最先进的人脸识别模型上获得99.86%的成功率。为进一步迫使生成样本自然，我们引入第二种受限于人脸语义结构的攻击，其速度为第一种攻击的一半，成功率为99.96%。两种攻击对最先进的防御方法均极为鲁棒，成功率等于或大于53.59%。代码见 https://github.com/alldbi/FLM
引用
@article{arxiv.1809.08999,
title = {Fast Geometrically-Perturbed Adversarial Faces},
author = {Ali Dabouei and Sobhan Soleymani and Jeremy Dawson and Nasser M. Nasrabadi},
journal= {arXiv preprint arXiv:1809.08999},
year = {2018}
}