论决策树的可解释能力

决策树长期以来被公认为在可解释性至关重要的敏感应用中的首选模型。本文考察了布尔决策树在推导、最小化和计数充分理由与对比解释方面的计算能力。我们证明了：给定一个决策树，某实例的所有最小尺寸充分理由的集合可能比输入（该实例与决策树）的规模呈指数级大。因此，生成全部充分理由可能是难以实现的。此外，一般而言，仅计算单个充分理由并不足够；事实上，同一实例的两个充分理由可能在许多特征上有所不同。为处理此问题并生成所有充分理由集合的综合视图，我们引入了相关特征与必要特征的概念，它们刻画了至少在一个或每一个充分理由中出现的（可能取反的）特征，并证明它们可在多项式时间内计算。我们还引入了可解释重要性的概念，指示每个（可能取反的）特征在所有充分理由集合中的出现频率。我们展示了如何通过模型计数操作获得特征的可解释重要性与充分理由的数量，该操作在许多情况下被证明是实用的。我们还解释了如何枚举最小尺寸的充分理由。最后我们表明，与充分理由不同，给定一个决策树，某实例的所有对比解释的集合可在多项式时间内推导、最小化与计数。