面向人脸识别的高效基于决策的黑盒对抗攻击
计算机视觉与模式识别
2019-04-10 v1 密码学与安全
机器学习
摘要
近年来，由于深度卷积神经网络（CNNs）的巨大进步，人脸识别取得了显著进展。然而，深度CNNs易受对抗样本的攻击，这可能在具有安全敏感目的的真实世界人脸识别应用中导致致命后果。对抗攻击被广泛研究，因为它们能在模型部署前识别其脆弱性。本文中，我们在基于决策的黑盒攻击设定下评估最先进人脸识别模型的鲁棒性，其中攻击者无法访问模型参数和梯度，仅能通过向目标模型发送查询获得硬标签预测。该攻击设定在真实世界人脸识别系统中更为实际。为提升先前方法的效率，我们提出了一种进化攻击算法，其能对搜索方向的局部几何建模并降低搜索空间的维度。大量实验证明了所提方法的有效性，该方法以更少查询对输入人脸图像引入最小扰动。我们还成功将所提方法应用于攻击一个真实世界人脸识别系统。
引用
@article{arxiv.1904.04433,
title = {Efficient Decision-based Black-box Adversarial Attacks on Face Recognition},
author = {Yinpeng Dong and Hang Su and Baoyuan Wu and Zhifeng Li and Wei Liu and Tong Zhang and Jun Zhu},
journal= {arXiv preprint arXiv:1904.04433},
year = {2019}
}
备注
CVPR 2019