开集对抗防御
计算机视觉与模式识别
2020-09-03 v1 人工智能
摘要
开集识别与对抗防御研究深度学习的两个关键方面，它们对实际部署至关重要。开集识别的目标是在测试时识别来自开集类别的样本，而对抗防御旨在保护网络免受具有不可感知对抗扰动的图像攻击。在本文中，我们展示了开集识别系统易受对抗攻击。此外，我们表明在已知类别上训练的对抗防御机制不能很好地泛化到开集样本。受此观察启发，我们强调需要一种开集对抗防御（OSAD）机制。本文提出一种开集防御网络（OSDN）作为 OSAD 问题的解决方案。所提网络使用带有特征去噪层的编码器与分类器耦合，以学习无噪声的潜在特征表示。采用两种技术来获得信息丰富的潜在特征空间，目的是改善开集性能。首先，使用解码器确保可从获得的潜在特征重建干净图像。然后，使用自监督确保潜在特征信息足够丰富以执行辅助任务。我们引入了一种测试协议来评估 OSAD 性能，并展示了所提方法在多个物体分类数据集上的有效性。所提方法的实现代码可在 https://github.com/rshaojimmy/ECCV2020-OSAD 获取。
引用
@article{arxiv.2009.00814,
title = {Open-set Adversarial Defense},
author = {Rui Shao and Pramuditha Perera and Pong C. Yuen and Vishal M. Patel},
journal= {arXiv preprint arXiv:2009.00814},
year = {2020}
}
备注
Accepted by ECCV 2020