针对基于DNN的人脸验证的通用冒充攻击之万能钥匙后门
计算机视觉与模式识别
2021-05-04 v1 人工智能
摘要
我们提出了一种针对基于深度神经网络（DNN）的人脸验证系统的新型攻击。该攻击依赖于在网络中植入一个隐藏后门，其在测试时激活会诱发验证错误，使攻击者能够冒充任意用户。这种被称为万能钥匙后门攻击的新攻击通过干扰训练阶段来实施，从而指示 DNN 在输入呈现攻击者人脸时始终输出正向验证答案。相较于现有攻击，该后门攻击提供了更高的灵活性，因为攻击者无需事先知晓受害者身份。以此方式，他可在开放集框架下部署通用冒充攻击，从而冒充任何已注册用户，甚至是攻击构思时尚未注册的用户。我们给出了针对孪生 DNN 人脸验证系统的攻击实用实现，并展示了当系统在 VGGFace2 数据集上训练、在 LFW 与 YTF 数据集上测试时的有效性。根据我们的实验，万能钥匙后门攻击即使在中毒训练数据比例小至 0.01 时仍提供高攻击成功率，从而就对安全关键应用中基于 DNN 的人脸验证系统的使用敲响了新的警钟。
引用
@article{arxiv.2105.00249,
title = {A Master Key Backdoor for Universal Impersonation Attack against DNN-based Face Verification},
author = {Wei Guo and Benedetta Tondi and Mauro Barni},
journal= {arXiv preprint arXiv:2105.00249},
year = {2021}
}