深度神经网络中的最小图像：自然图像中脆弱的物体识别
计算机视觉与模式识别
2019-02-11 v1 图像与视频处理
摘要
当物体未被完整展示时，人类的物体识别能力会受损。“最小图像”是图像中仍可被人类识别的最小区域。Ullman 等人 2016 年表明，对最小图像可见区域的位置和大小稍作修改会导致人类识别准确率急剧下降。在本文中，我们证明这种因可见区域改变而导致的准确率下降是人类与现有最先进深度神经网络（DNNs）之间的普遍现象，且在 DNNs 中更为显著。我们发现了许多情况：DNNs 对一个区域分类正确而对另一区域分类错误，尽管它们仅相差一行或一列像素，且区域往往大于平均人类最小图像尺寸。我们表明该现象不同于先前工作中报道的 DNNs 对物体位置微小修改缺乏不变性的情况。因此，我们的结果揭示了 DNNs 的一种新失效模式，其影响人类的程度要小得多。它们暴露出即便未引入对抗性图案，DNNs 对自然图像的识别能力也极为脆弱。将 DNNs 在自然图像中的鲁棒性提升至人类水平仍是学界的一个开放挑战。
引用
@article{arxiv.1902.03227,
title = {Minimal Images in Deep Neural Networks: Fragile Object Recognition in Natural Images},
author = {Sanjana Srivastava and Guy Ben-Yosef and Xavier Boix},
journal= {arXiv preprint arXiv:1902.03227},
year = {2019}
}
备注
International Conference on Learning Representations (ICLR) 2019