论决策树概率解释的 computation

形式化 XAI（可解释 AI）是一个不断发展的领域，专注于为 ML 模型所做的决策计算具有数学保证的解释。在形式化 XAI 中，最受关注的情形之一是对决策树所采取选择进行解释，因为决策树传统上被视为最具可解释性的模型类别之一。近期工作聚焦于研究“充分理由”的计算，这是一种解释：给定决策树 $T$ 与实例 $x$，通过提供 $x$ 的特征子集 $y$ 来解释决策 $T(x)$，使得对于任何与 $y$ 相容的其他实例 $z$，都有 $T(z) = T(x)$，直观意味着 $y$ 中的特征已足以完全证明 $T$ 对 $x$ 的分类。然而，已有论证表明充分理由构成了一种限制性的解释概念，因此学界已开始研究其概率对应物，其中要求 $T(z) = T(x)$ 的概率至少达到某个值 $\delta \in (0, 1]$，其中 $z$ 是与 $y$ 相容的随机实例。我们的论文解决了决策树上 $\delta$-充分理由的计算复杂性，表明（1）寻找规模最小的 $\delta$-充分理由，与（2）寻找包含意义下极小的 $\delta$-充分理由，均不存在多项式时间算法（除非 P=NP）。这与确定性情形（$\delta = 1$，其中包含意义下极小的充分理由易于计算）形成鲜明对比。由此，我们回答了 Izza 等人最初提出的两个开放问题。在正面结果方面，我们识别了使该问题可处理的决策树结构限制，并展示了 SAT 求解器如何能在实用场景中应对这些问题。