基于动量多样输入迭代快速梯度符号法（M-DI2-FGSM）的攻击方法在 MCS 2018 黑盒人脸识别系统对抗攻击上的评估
摘要
卷积神经网络是近期基于深度学习的各类计算机视觉任务（如分类、分割与检测）取得成功的关键工具。卷积神经网络在这些任务上达到了最先进的性能，并不断推动计算机视觉与人工智能的边界。然而，针对计算机视觉系统的对抗攻击正威胁其在现实生活和安全性关键应用中的部署。相应地，寻找对抗样本对于检测易受攻击的模型并采取防范措施以应对对抗攻击十分重要。为此，MCS 2018 黑盒人脸识别对抗攻击挑战赛旨在促进寻找新对抗攻击技术及其在生成对抗样本方面有效性的研究。在该挑战赛中，攻击性质为针对黑盒神经网络的定向攻击，我们对黑盒的内部结构一无所知。攻击者必须修改同一个人的五张图像集合，使神经网络将其误分类为目标图像（即另一个人的五张图像集合）。在本次竞赛中，我们应用动量多样输入迭代快速梯度符号法（Momentum Diverse Input Iterative Fast Gradient Sign Method, M-DI2-FGSM）对黑盒人脸识别系统发起对抗攻击。我们在 MCS 2018 黑盒人脸识别对抗攻击挑战赛上测试了该方法，并取得了有竞争力的结果。我们的方案获得验证分数 1.404，优于基线分数 1.407，在排行榜 132 支队伍中位列第 14 名。通过从源图像中提取改进特征、谨慎选择超参数、寻找改进的黑盒替代模型以及更好的优化方法，可进一步提升效果。
引用
@article{arxiv.1806.08970,
title = {Evaluation of Momentum Diverse Input Iterative Fast Gradient Sign Method (M-DI2-FGSM) Based Attack Method on MCS 2018 Adversarial Attacks on Black Box Face Recognition System},
author = {Md Ashraful Alam Milton},
journal= {arXiv preprint arXiv:1806.08970},
year = {2019}
}
备注
The Code is available for download in the following github link: https://github.com/miltonbd/mcs_2018_adversarial_attack . arXiv admin note: text overlap with arXiv:1803.06978 by other authors