针对神经网络编码器的分布外攻击算法
计算机视觉与模式识别
2021-01-28 v4 机器学习
图像与视频处理
摘要
深度神经网络（DNNs），尤其是卷积神经网络，在图像分类任务上取得了卓越的性能。然而，仅当训练好的模型的输入与训练样本相似，即输入遵循训练集的概率分布时，才能保证这种性能。分布外（OOD）样本不遵循训练集的分布，因此在OOD样本上预测的类别标签变得毫无意义。已有基于分类的方法被提出用于OOD检测；然而在本研究中，我们表明这类方法没有理论保证，并且由于DNN模型中的降维操作，它在实际中可被我们的OOD攻击算法攻破。我们还表明，基于Glow似然的OOD检测同样可被攻破。
引用
@article{arxiv.2009.08016,
title = {An Algorithm for Out-Of-Distribution Attack to Neural Network Encoder},
author = {Liang Liang and Linhai Ma and Linchen Qian and Jiasong Chen},
journal= {arXiv preprint arXiv:2009.08016},
year = {2021}
}
备注
26 pages, 25 figures, 8 tables