RAF：利用极有限查询对数人脸识别进行递归对抗攻击
计算机视觉与模式识别
2022-07-05 v1
摘要
近期对人脸识别的成功对抗攻击表明，尽管人脸识别模型取得了显著进展，其在感知与识别上仍远落后于人类智能。这揭示了作为人脸识别模型最先进构建模块的深层卷积神经网络（CNNs）针对对抗样本脆弱性，后者可对安全系统造成一定后果。基于梯度的对抗攻击此前被广泛研究，并被证明可成功攻击人脸识别模型。然而，为每张人脸寻找优化扰动需要向目标模型提交大量查询。在本文中，我们提出利用自动人脸变形的递归对抗攻击，其仅需极有限数量的查询即可欺骗目标模型。与随机人脸变形过程不同，变形函数应用于人脸的特定检测区域，如眉毛、鼻子、嘴唇等。我们在基于决策的黑盒攻击设定下评估所提方法的鲁棒性，其中攻击者无法访问模型参数与梯度，但目标模型提供硬标签预测与置信度分数。
引用
@article{arxiv.2207.01149,
title = {RAF: Recursive Adversarial Attacks on Face Recognition Using Extremely Limited Queries},
author = {Keshav Kasichainula and Hadi Mansourifar and Weidong Shi},
journal= {arXiv preprint arXiv:2207.01149},
year = {2022}
}