深度神经网络分类器的物理世界辅助信号——既非防御亦非攻击
计算机视觉与模式识别
2021-05-04 v1
摘要
深度神经网络引领计算机视觉任务的最先进水平。尽管如此，神经网络是脆弱的，输入中的微小变化会极大地影响其预测结果与置信度。因此且自然地，该领域的研究主要关注对抗攻击与防御。本文采取另一种立场，引入辅助信号（Assistive Signals）的概念，其被优化以提升模型的置信度分数，无论模型是否处于攻击之下。我们分析了这些辅助扰动的若干有趣性质，并将该思想扩展至在 3D 空间中优化辅助信号，以模拟不同光照条件和视角的真实场景。实验评估表明，由我们的优化方法生成的辅助信号比在 2D 空间工作的常规方法生成的信号更能提升深度模型的精度与置信度。此外，我们的辅助信号揭示了 ML 模型对真实物体中某些模式的内在偏置。我们讨论了如何利用这些洞察来重新思考或避免某些可能促进或削弱真实世界中物体可检测性的模式。
引用
@article{arxiv.2105.00622,
title = {Physical world assistive signals for deep neural network classifiers -- neither defense nor attack},
author = {Camilo Pestana and Wei Liu and David Glance and Robyn Owens and Ajmal Mian},
journal= {arXiv preprint arXiv:2105.00622},
year = {2021}
}