对人脸识别系统多组件的同时对抗攻击
计算机视觉与模式识别
2023-04-12 v1 人工智能
摘要
在本工作中，我们研究对抗样本对人脸识别系统安全性的潜在威胁。尽管先前研究已探讨了对FRS各独立组件的对抗风险，我们的研究首次探索了攻击者同时欺骗多个组件：FRS流水线中的人脸检测器与特征提取器。我们提出三种针对FRS的多目标攻击，并通过在目标系统上的初步实验分析展示其有效性。我们的攻击对人脸检测器和特征提取器均实现了高达100%的攻击成功率，并能够根据对抗目标将人脸检测概率操纵高达50%。本研究识别并考察了针对FRS的新型攻击向量，并提出了通过在训练FRS各组件时利用该攻击向量知识来增强鲁棒性的可能途径。
引用
@article{arxiv.2304.05048,
title = {Simultaneous Adversarial Attacks On Multiple Face Recognition System Components},
author = {Inderjeet Singh and Kazuya Kakizaki and Toshinori Araki},
journal= {arXiv preprint arXiv:2304.05048},
year = {2023}
}