基于空间一致性信息的语义分割对抗样本刻画
密码学与安全
2018-10-15 v1 计算机视觉与模式识别
机器学习
摘要
深度神经网络（DNNs）已广泛应用于各类识别任务。然而，近期研究表明 DNNs 易受对抗样本的攻击，后者可误导 DNNs 作出任意错误预测。尽管对抗样本在分类任务中已被充分研究，其他学习问题可能具有不同性质。例如，语义分割需要扩张卷积与多尺度处理等额外组件。本文旨在基于语义分割中的空间上下文信息刻画对抗样本。我们观察到，即便强自适应攻击者可获取模型与检测策略，空间一致性信息仍可被潜在地用于鲁棒检测对抗样本。我们还表明，本文所考虑攻击生成的对抗样本几乎不在模型间迁移，尽管迁移性在分类中十分常见。我们的观察为开发对抗攻击与防御以更好理解 DNNs 的漏洞提供了新视角。
引用
@article{arxiv.1810.05162,
title = {Characterizing Adversarial Examples Based on Spatial Consistency Information for Semantic Segmentation},
author = {Chaowei Xiao and Ruizhi Deng and Bo Li and Fisher Yu and Mingyan Liu and Dawn Song},
journal= {arXiv preprint arXiv:1810.05162},
year = {2018}
}
备注
Accepted to ECCV 2018