构建鲁棒的深度神经网络用于路标检测
机器学习
2017-12-27 v1 人工智能
机器学习
摘要
深度神经网络通过使用正则化、早停和 dropout 等技术，以在训练集之外泛化为设计目标而构建。但使其对对抗样本更具韧性的考量却很少被采取。随着深度神经网络在任务关键与实时系统中愈发普遍，恶意行为者开始通过故意使深度神经网络将一类物体误分类为另一类来进行攻击。在某些场景中，深度神经网络的分类可能导致机器做出致命决策，这会是灾难性的。在本工作中，我们使用 GTSRB 数据集，通过快速梯度符号法与雅可比显著性图方法制作对抗样本，用这些制作的对抗样本攻击另一个深度卷积神经网络，并通过防御性蒸馏与对抗训练使被攻击的网络更鲁棒，从而构建出对对抗攻击更具韧性的网络。
引用
@article{arxiv.1712.09327,
title = {Building Robust Deep Neural Networks for Road Sign Detection},
author = {Arkar Min Aung and Yousef Fadila and Radian Gondokaryono and Luis Gonzalez},
journal= {arXiv preprint arXiv:1712.09327},
year = {2017}
}