基于深度神经网络关键路径的异常检测

深度神经网络（DNN）极难理解且难以防御。使用软件工程方法从 DNN 中提取代表性路径（包括神经元激活值以及神经元之间的连接）最近显示出在解释黑箱 DNN 决策过程方面具有前景，因为所提取的路径往往能够有效地捕获关键特征。鉴于此，本文研究了一种新方法，通过提取 DNN 中的关键路径，然后将这些提取的路径用于异常检测任务，基于以下观察：异常输入和对抗输入通常不会像正常（分布内）输入那样在这些路径上诱导相同的激活模式。我们的方法首先通过遗传进化和突变来识别关键检测路径。由于 DNN 中的不同路径通常捕获同一目标类的不同特征，我们通过整合随机子空间抽样和投票机制来集成来自多个路径的检测结果。与当前最先进的方法相比，我们的实验结果表明，不仅我们的方法在它们之上取得了更好的性能，而且它也适用于高精度检测广泛的异常类型。