语义分割模型对对抗攻击的鲁棒性研究
计算机视觉与模式识别
2018-07-10 v3
摘要
深度神经网络(DNNs)在大多数识别任务(如图像分类与分割)上展现出卓越性能。然而,它们也被证明易受对抗样本攻击。该现象近来引起大量关注,但在多个大规模数据集以及语义分割等结构化预测任务上尚未得到广泛研究,此类任务常需更专门的网络及额外组件,如CRFs、空洞卷积、跳跃连接和多尺度处理。本文中,我们给出了据我们所知首个针对现代语义分割模型的对抗攻击的严谨评估,使用了两个大规模数据集。我们分析了不同网络架构、模型容量和多尺度处理的影响,并指出在分类任务上的诸多观察未必能迁移至这一更复杂任务。此外,我们展示了深度结构化模型中的平均场推断、多尺度处理(更一般地,输入变换)如何自然地实现近期提出的对抗防御。我们的观察将有助于未来理解和防御对抗样本的努力。此外在短期内,我们展示了如何有效基准测试鲁棒性,并指明在安全要求严苛的应用中因固有鲁棒性而应优先采用哪些分割模型。
引用
@article{arxiv.1711.09856,
title = {On the Robustness of Semantic Segmentation Models to Adversarial Attacks},
author = {Anurag Arnab and Ondrej Miksik and Philip H. S. Torr},
journal= {arXiv preprint arXiv:1711.09856},
year = {2018}
}
备注
CVPR 2018 extended version