如何从模型中挖掘解释：基于squeeze-and-excitation模块的模型无关解释方法

深度学习模型因其在多种任务中的可靠性能力而广泛应用于实际场景。然而，这些模型通常不会提供其决策背后的推理过程，这一缺点在生物识别、安防和医疗等敏感领域尤为突出。目前最常用的解释方法通过模型的梯度反向传播生成图像上感兴趣区域的注意力热力图。虽然这种方法可行，但现有方法面向图像场景及默认/标准深度学习模型，需大量调整才能适用于视频或多模态设置以及自定义架构。本文提出一种面向模型无关的解释方法，基于对squeeze-and-excitation（SE）模块的新颖用法，创建视觉注意力热力图。通过在任何模型的分类层之前插入SE模块，我们能够通过SE向量操作检索最具影响力的特征——这正是SE模块的关键组成部分之一。我们的实验结果表明，这种新的基于SE的解释方法可应用于图像和视频/多模态设置中的各种模型，包括基于CelebA的人脸特征生物识别以及基于主动说话人检测数据集的行为生物识别。此外，我们的方案不会损害原始任务的模型性能，在最先进的目标检测数据集上实现了与当前解释方法的竞争成绩，凸显了其在除生物识别领域外的多样数据上的鲁健性。