基于集员方法的神经网络分类器特征相关性发现与决策解释

神经分类器是针对已学习问题提供模式类别决策的非线性系统。分类器对每种模式计算出的输出构成了某个未知函数的近似，该函数将模式数据映射到其相应类别。由于缺乏对该函数的了解以及神经分类器的复杂性（尤其当其为深度学习架构时），无法获知特定预测是如何做出的。因此，这些强大的学习系统被视为黑箱，在关键应用中其使用往往被认为不妥。洞察此类黑箱运作是解释神经分类器运行并评估其决策有效性的一种途径。本文中，我们解决此问题，引入一种新方法以发现训练好的神经分类器认为哪些特征相关以及它们如何影响分类器输出，从而对其决策获得解释。尽管特征相关性在机器学习文献中备受关注，我们在此基于区间分析的集员方法将其重新视为非线性参数估计问题。因此，所提方法建立在可靠的数学方法之上，所得结果构成了对分类器决策前提的可靠估计。