一种新颖的可解释脉冲神经网络分布外检测方法

近年来，由于与传统神经网络相比具有优势，包括高效处理与建模复杂时间动力学的固有能力，围绕脉冲神经网络的研究得以兴起。尽管存在这些差异，脉冲神经网络在真实场景部署时面临与其他神经计算模型类似的难题。本工作解决可能损害该类模型可信度的实际情形之一：用远离其训练数据分布的样本（亦称为分布外或 OoD 数据）查询已训练模型的可能性。具体而言，本工作提出一种新颖的 OoD 检测器，可识别输入脉冲神经网络的测试样本是否属于其训练所用数据的分布。为此，我们以脉冲计数模式的形式刻画网络隐藏层的内部激活，这为判定测试实例引发的激活何时异常奠定基础。此外，设计了一种局部解释方法以生成归因图，揭示输入实例的哪些部分最推动将样本检测为 OoD 样本。我们在多个图像分类数据集上开展实验，将所提检测器与文献中其他 OoD 检测方案比较。所得结果清晰表明，所提检测器相较这些替代方案具有竞争力，且生成的相关性归因图符合对合成 OoD 实例的预期。