基于部件并利用人类先验知识识别物体可增强深度神经网络的对抗鲁棒性
计算机视觉与模式识别
2022-12-06 v1 人工智能
机器学习
摘要
对抗攻击可以轻易欺骗基于深度神经网络（DNNs）的物体识别系统。尽管近年来提出了许多防御方法，但其中大多数仍可被自适应地规避。对抗鲁棒性薄弱的一个原因可能是DNNs仅受类别标签监督，而不具备像人类识别过程那样的基于部件的归纳偏置。受认知心理学中一个著名理论——识别-by-部件（recognition-by-components）的启发，我们提出了一种新颖的物体识别模型ROCK（Recognizing Object by Components with human prior Knowledge，利用人类先验知识基于部件识别物体）。它首先从图像中分割物体的部件，然后用预定义的人类先验知识对部件分割结果打分，最后基于分数输出预测。ROCK的第一阶段对应于人类视觉中将物体分解为部件的过程。第二阶段对应于人脑的决策过程。在各种攻击设置下，ROCK表现出比经典识别模型更好的鲁棒性。这些结果鼓励研究者重新思考当前广泛使用的基于DNN的物体识别模型的合理性，并探索曾经重要但近期被忽视的基于部件模型的潜力，以提升鲁棒性。
引用
@article{arxiv.2212.01806,
title = {Recognizing Object by Components with Human Prior Knowledge Enhances Adversarial Robustness of Deep Neural Networks},
author = {Xiao Li and Ziqi Wang and Bo Zhang and Fuchun Sun and Xiaolin Hu},
journal= {arXiv preprint arXiv:2212.01806},
year = {2022}
}
备注
Under review. Submitted to TPAMI on June 10, 2022. Major revision on September 4, 2022