DAAIN：利用归一化流检测异常与对抗输入
计算机视觉与模式识别
2021-06-01 v1 密码学与安全
机器学习
摘要
尽管近期研究众多，检测计算机视觉模型的分布外（OOD）输入与对抗攻击（AA）仍具挑战。本文中，我们引入一种新技术 DAAIN，在统一设定下检测图像分割中的 OOD 输入与 AA。我们的方法监控神经网络的内部运作，并学习激活分布的一个密度估计器。我们为该密度估计器配备一个分类头，以区分常规输入与异常输入。为处理典型分割网络的高维激活空间，我们对其进行子采样以获得均匀的空间与层间覆盖。子采样模式对每个被监控模型仅选定一次，并对所有输入保持固定。由于攻击者既无法访问检测模型也无法访问采样密钥，其更难攻击分割网络，因为攻击无法经检测器反向传播。我们使用在 Cityscapes 数据集上训练的 ESPNet 作为分割模型、仿射归一化流作为密度估计器，并采用蓝噪声以确保均匀采样，证明了我们方法的有效性。我们的模型可在单个 GPU 上训练，计算高效且无需专用加速器即可部署。
引用
@article{arxiv.2105.14638,
title = {DAAIN: Detection of Anomalous and Adversarial Input using Normalizing Flows},
author = {Samuel von Baußnern and Johannes Otterbach and Adrian Loy and Mathieu Salzmann and Thomas Wollmann},
journal= {arXiv preprint arXiv:2105.14638},
year = {2021}
}
备注
14 pages, 4 figures, 4 tables