面向物理世界鲁棒识别的防御性补丁
计算机视觉与模式识别
2022-04-14 v1
摘要
为了在真实世界的高风险环境中运行，深度学习系统必须承受持续破坏其鲁棒性的噪声。数据端防御通过作用于输入数据而非修改模型来提升鲁棒性，因其在实践中的可行性而受到广泛关注。然而，以往的数据端防御对多样噪声的泛化能力低，且在多模型间的迁移能力弱。鉴于鲁棒识别同时依赖于局部与全局特征，我们提出一种防御性补丁生成框架，通过帮助模型更好地利用这些特征来解决上述问题。针对多样噪声的泛化，我们将类特定的可辨识模式注入受限的局部补丁先验中，使防御性补丁能保留更多针对特定类的可识别特征，从而引导模型在噪声下更好地识别。针对多模型间的迁移，我们引导防御性补丁捕获类内更多全局特征关联，使其能激活模型共享的全局感知并在模型间更好地迁移。我们的防御性补丁通过简单地贴在目标物体周围，在实践中展现出提升应用鲁棒性的巨大潜力。大量实验表明，我们以大幅优势超越其他方法（在数字与物理世界中，对抗与腐蚀鲁棒性的平均准确率均提升 20+%）。我们的代码见 https://github.com/nlsde-safety-team/DefensivePatch
引用
@article{arxiv.2204.06213,
title = {Defensive Patches for Robust Recognition in the Physical World},
author = {Jiakai Wang and Zixin Yin and Pengfei Hu and Aishan Liu and Renshuai Tao and Haotong Qin and Xianglong Liu and Dacheng Tao},
journal= {arXiv preprint arXiv:2204.06213},
year = {2022}
}
备注
Accepted by CVPR2022