论主动视觉系统的内在对抗鲁棒性
计算机视觉与模式识别
2024-04-08 v2 人工智能
摘要
当前的深度神经网络容易受到对抗样本的攻击，这些样本通过添加精心设计的噪声来改变其预测。由于人眼对此类输入具有鲁棒性，因此脆弱性可能源于标准的一次性处理输入方式，即对每个像素赋予相同的重要性。相比之下，神经科学表明，人类视觉系统能够通过（1）在多个注视点之间切换（扫视）和（2）以非均匀的外围分辨率处理周围环境（中央凹）来区分显著特征。在这项工作中，我们主张将这种主动视觉机制整合到当前的深度学习系统中可以带来鲁棒性优势。具体来说，我们在黑盒威胁模型下实证证明了两种主动视觉方法——GFNet和FALcon——的内在鲁棒性。通过基于输入中多个不同注视点获得的下采样一瞥进行学习和推理，我们表明这些主动方法在最先进的对抗攻击下，其鲁棒性比标准的被动卷积网络高出（2-3）倍。更重要的是，我们提供了说明性和可解释的可视化分析，展示了从不同注视点进行推理如何使主动视觉方法不易受到恶意输入的影响。
引用
@article{arxiv.2404.00185,
title = {On Inherent Adversarial Robustness of Active Vision Systems},
author = {Amitangshu Mukherjee and Timur Ibrayev and Kaushik Roy},
journal= {arXiv preprint arXiv:2404.00185},
year = {2024}
}