神经网络模型的灵敏度分析方法应用

本研究展示了几种分析神经网络对输入数据扰动敏感性并解释其底层机制的方法的能力。所考察的方法包括 Sobol 全局灵敏度分析、用于输入像素扰动的局部灵敏度方法以及激活最大化技术。作为示例，本文考虑一个小型前馈神经网络，用于分析开放的表格化糖尿病数据集，以及两种经典的卷积架构——VGG-16 和 ResNet-18，这两种架构在图像处理和分类中广泛使用。利用全局灵敏度分析，我们识别出所选小型神经网络的主要输入参数，并在不显著损失精度的前提下减少其数量。鉴于全局灵敏度分析不适用于大型模型，我们尝试在卷积神经网络上应用局部灵敏度分析和激活最大化方法。这些方法在解决图像分类问题时显示出有趣的模式。总体而言，我们将激活最大化方法的结果与流行的 Grad-CAM 技术进行比较，进行超声数据分析的语境中。