自然对抗物体
计算机视觉与模式识别
2022-07-14 v1
摘要
尽管最先进的物体检测方法已展现出令人信服的性能，但模型往往对对抗攻击和分布外数据不够鲁棒。我们引入了一个新数据集——自然对抗物体（Natural Adversarial Objects, NAO），用于评估物体检测模型的鲁棒性。NAO 包含 7,934 张图像和 9,943 个物体，这些物体未经修改且代表真实世界场景，但会导致最先进的检测模型以高置信度误分类。与标准 MSCOCO 验证集相比，EfficientDet-D7 在 NAO 上评估时平均精度均值（mAP）下降了 74.5%。此外，通过比较多种物体检测架构，我们发现 MSCOCO 验证集上更好的性能并不一定转化为 NAO 上更好的性能，这表明鲁棒性不能简单地通过训练更准确的模型来实现。我们进一步探究了 NAO 中样本难以检测和分类的原因。图像块打乱实验表明，模型对局部纹理过度敏感。此外，利用积分梯度和背景替换，我们发现检测模型在预测类别标签时依赖于边界框内的像素信息，而对背景上下文不敏感。NAO 可在 https://drive.google.com/drive/folders/15P8sOWoJku6SSEiHLEts86ORfytGezi8 下载。
引用
@article{arxiv.2111.04204,
title = {Natural Adversarial Objects},
author = {Felix Lau and Nishant Subramani and Sasha Harrison and Aerin Kim and Elliot Branson and Rosanne Liu},
journal= {arXiv preprint arXiv:2111.04204},
year = {2022}
}