人脸检测中通用对抗补丁的设计与解释
计算机视觉与模式识别
2020-07-20 v3 密码学与安全
机器学习
机器学习
摘要
我们研究面向人脸的通用对抗补丁——即添加到人脸图像上即可可靠破坏人脸检测器性能的小型视觉元素。与以往主要关注从攻击者角度提升对抗样本成功率的算法设计不同，本文展示了对此类补丁的解释，其能够阻止最先进的人脸检测器检测到真实人脸。我们探究了一种现象：旨在抑制真实人脸检测的补丁呈现出类人脸特征。该现象在不同初始化、补丁位置与尺度、骨干网络以及最先进的人脸检测框架下普遍成立。我们提出了基于优化的新方法，用于针对多种攻击目标自动设计通用对抗补丁，包括在不引入假阳性的情况下抑制真正例的场景。我们提出的算法在真实世界数据集上表现良好，在多项精确率/召回率指标及可迁移性方面欺骗了最先进的人脸检测器。
引用
@article{arxiv.1912.05021,
title = {Design and Interpretation of Universal Adversarial Patches in Face Detection},
author = {Xiao Yang and Fangyun Wei and Hongyang Zhang and Jun Zhu},
journal= {arXiv preprint arXiv:1912.05021},
year = {2020}
}