增强 RGB-D 目标识别系统以抵御对抗补丁攻击
计算机视觉与模式识别
2023-09-14 v1 密码学与安全
摘要
RGB-D 目标识别系统通过融合颜色与深度信息提升预测性能，优于仅依赖颜色的神经网络架构。虽然 RGB-D 系统预期比仅 RGB 系统对对抗样本更鲁棒，但它们也被证明高度脆弱。即便对抗样本仅通过改变原始图像颜色生成，其鲁棒性也相近。不同工作揭示了 RGB-D 系统的脆弱性；然而，对此弱点的技术解释尚缺。因此，我们的工作通过考察 RGB-D 系统学到的深度表示来弥补这一空白，发现颜色特征使网络学到的函数更复杂，从而对微小扰动更敏感。为缓解该问题，我们提出一种基于检测机制的防御，使 RGB-D 系统对对抗样本更鲁棒。我们实证表明，该防御提升了 RGB-D 系统对抗样本的performance，即便样本专为规避此检测机制而计算，且比对抗训练更有效。
引用
@article{arxiv.2309.07106,
title = {Hardening RGB-D Object Recognition Systems against Adversarial Patch Attacks},
author = {Yang Zheng and Luca Demetrio and Antonio Emanuele Cinà and Xiaoyi Feng and Zhaoqiang Xia and Xiaoyue Jiang and Ambra Demontis and Battista Biggio and Fabio Roli},
journal= {arXiv preprint arXiv:2309.07106},
year = {2023}
}
备注
Accepted for publication in the Information Sciences journal