面向深度人脸识别的可迁移对抗攻击
计算机视觉与模式识别
2020-11-24 v2
摘要
由于深度学习方法的发展，人脸识别在过去五年中取得了巨大成功。然而，深度卷积神经网络（DCNNs）已被发现易受对抗样本的攻击。特别是，可迁移对抗样本的存在会严重削弱DCNNs的鲁棒性，因为此类攻击可以以完全黑盒的方式应用，而无需对目标系统进行查询。在这项工作中，我们首先通过展示特征级方法相对于标签级方法的优越性，研究了人脸识别中可迁移对抗攻击的特性。然后，为了进一步提高特征级对抗样本的可迁移性，我们提出了DFANet，一种用于卷积层的基于dropout的方法，它可以增加替代模型的多样性并获得类似集成的效果。在最先进的人脸模型上使用各种训练数据库、损失函数和网络架构进行的大量实验表明，所提方法能显著增强现有攻击方法的可迁移性。最后，通过将DFANet应用于LFW数据库，我们生成了一组新的对抗人脸对，可在无任何查询的情况下成功攻击四个商业API。该TALFW数据库已公开，以促进深度人脸识别鲁棒性与防御的研究。
引用
@article{arxiv.2004.05790,
title = {Towards Transferable Adversarial Attack against Deep Face Recognition},
author = {Yaoyao Zhong and Weihong Deng},
journal= {arXiv preprint arXiv:2004.05790},
year = {2020}
}
备注
This article has been accepted by IEEE Transactions on Information Forensics and Security. TALFW database is available at http://www.whdeng.cn/TALFW/index.html