基于仿射变换的深度学习模型对抗样本形变检测
计算机视觉与模式识别
2019-07-11 v1 机器学习
图像与视频处理
摘要
对抗攻击是微小且精心制作的扰动，肉眼难以察觉；将其加到图像上会导致深度学习模型误分类该图像，并可能产生有害后果。随着人工智能模型在自动驾驶汽车、摄像头监控和人脸识别等消费者安全与安防密集型产业中的兴起，对防御对抗攻击的需求日益增长。本文中，我们提出一种利用形变测试原则自动检测此类对抗攻击的方法。该方法可检测极其微小的图像篡改，以至于人类通过视觉检查无法察觉。通过应用基于保距离比仿射图像变换的形变关系，比较原始与变换后图像的行为；我们表明所提方法能以高准确度判定输入图像是否为对抗样本。
引用
@article{arxiv.1907.04774,
title = {Metamorphic Detection of Adversarial Examples in Deep Learning Models With Affine Transformations},
author = {Rohan Reddy Mekala and Gudjon Einar Magnusson and Adam Porter and Mikael Lindvall and Madeline Diep},
journal= {arXiv preprint arXiv:1907.04774},
year = {2019}
}