计算机视觉深度学习中鲁棒性的系统综述：注意鸿沟？

计算机视觉的深度神经网络正部署于日益安全关键且具社会影响的应用中，这促使需要缩小模型在多样、自然出现的成像条件下的性能差距。鲁棒性在包括对抗机器学习在内的多种语境中被模糊使用，此处指在自然引起的图像损坏或改变下保持模型性能。我们进行系统综述，以识别、分析并总结当前深度学习用于计算机视觉中非对抗鲁棒性的定义与进展。我们发现该研究领域相较对抗机器学习受到的关注不成比例地少，然而存在显著的鲁棒性鸿沟，其表现为与对抗条件下量级相似的性能退化。为发展更透明的鲁棒性定义，我们基于数据生成过程的结构因果模型提供概念框架，并将非对抗鲁棒性解释为模型在对应于未改变数据分布中低概率样本的损坏图像上的行为。我们确定了改进神经网络鲁棒性的关键架构、数据增强与优化策略。该鲁棒性视角揭示文献中的常见实践对应于因果概念。我们就未来研究如何关注这一明显且显著的非对抗鲁棒性鸿沟提供见解。