少即是多：筛选训练集以提升深度神经网络的鲁棒性
密码学与安全
2018-12-11 v2 机器学习
机器学习
摘要
深度神经网络易受对抗样本攻击。先前的防御方法试图通过改变网络结构或用对抗样本扩充训练集来提升深度网络的鲁棒性，但二者均有固有局限。受近期研究表明训练集中的离群点对所训练模型具有高度负面影响所启发，我们研究了模型鲁棒性与训练集质量之间的关系。我们首先展示离群点赋予模型更好的泛化能力但更弱的鲁棒性。接着，我们提出一种对抗样本检测框架，其中设计了两种从训练集中移除离群点以获得净化模型的方法，随后通过计算原始模型与净化模型输出之间的差异来检测对抗样本。我们在MNIST与SVHN上评估了该框架。基于Kullback-Leibler散度度量的差异，我们能以94.67%至99.89%的准确率检测对抗样本。
引用
@article{arxiv.1801.02850,
title = {Less is More: Culling the Training Set to Improve Robustness of Deep Neural Networks},
author = {Yongshuai Liu and Jiyu Chen and Hao Chen},
journal= {arXiv preprint arXiv:1801.02850},
year = {2018}
}