xDNN(ASP)：基于答案集编程的深度神经网络解释生成系统

可解释人工智能（xAI）近年来受到广泛关注。由于深度神经网络的迅猛崛起及其“黑箱”特性，对深度神经网络的可解释性成为研究热点。xAI 方法可沿不同维度进行表征，包括其范围（全局解释 vs 局部解释）或 underlying 方法论（统计方法 vs 规则方法）。生成全局解释的方法旨在为适用于所有可能输出类的推理过程提供说明，而局部解释方法仅关注单个特定类别。SHAP（SHapley Additive exPlanations，Shapley 值增量解释）是一种著名的统计技术，识别神经网络的重要特征。深度神经网络规则提取方法构建 IF-THEN 规则，将输入条件与类别关联。另一种方法生成对抗样本，以帮助解释小输入变更如何影响模型预测。然而，这些技术主要关注输入-输出关系，因而在解释生成中忽略了网络结构。本文提出 xDNN(ASP)，一种为深度神经网络提供解释生成系统，提供全局解释。给定神经网络模型及其训练数据，xDNN(ASP) 提取一个在答案集语义下的数据逻辑程序——在理想情况下，该程序代表所训练的模型，即提取程序的答案集与网络的输入-输出对一一对应。我们通过两个合成数据集进行实验，表明不仅提取的数据逻辑程序在预测任务中保持高水平准确率，而且还为理解模型提供了有价值的信息，例如特征的重要性以及隐藏节点对预测的影响。后者可用于指导隐藏层节点数的减少，即为网络优化提供手段。