图像识别中神经网络鲁棒性评估综述

近年来，神经网络的鲁棒性评估受到了广泛关注。鲁棒性在确保人工智能（AI）系统在复杂和不确定环境中可靠运行方面发挥着关键作用。深度学习的鲁棒性问题尤为突出，这在图像分类模型对抗攻击的发现中得到了印证。研究人员致力于评估图像识别任务在多种扰动条件下的鲁棒性。鲁棒性评估包含两大主要技术：针对蓄意对抗攻击的鲁棒性验证/认证，以及针对随机数据损坏的鲁棒性测试。在本综述中，我们详细考察了神经网络评估中的对抗鲁棒性（AR）和损坏鲁棒性（CR）。通过分析当前的研究论文和标准，我们全面概述了图像识别中的鲁棒性评估。分析了三个基本方面：概念、指标和评估方法。我们研究了用于衡量图像扰动程度的扰动指标和范围表示，以及专门用于分类模型鲁棒性条件的鲁棒性指标。还讨论了现有方法的优点和局限性，并提供了未来研究的一些潜在方向。