线性模型的概率解释

形式化可解释人工智能（XAI）是一个新兴领域，专注于为机器学习模型的决策提供具有数学保证的解释。该领域的大量工作集中在“充分理由”的计算上。给定模型$M$和输入实例$\vec{x}$，决策$M(\vec{x})$的充分理由是$\vec{x}$的一个特征子集$S$，使得对于任何在$S$中每个特征上与$\vec{x}$具有相同值的实例$\vec{z}$，都有$M(\vec{x}) = M(\vec{z})$。直观上，这意味着$S$中的特征足以完全证明$M$对$\vec{x}$的分类。为了使充分理由在实践中可用，它们应该尽可能小，而减小充分理由大小的一种自然方式是考虑概率松弛：对于与$\vec{x}$在$S$中特征上一致的随机实例$\vec{z}$，$M(\vec{x}) = M(\vec{z})$的概率必须至少为某个值$\delta \in (0,1]$。计算小的$\delta$-充分理由（$\delta$-SR）已知是一个理论上困难的问题；即使在决策树（传统上被认为是简单且可解释的模型）上，强不可近似性结果使得高效计算小的$\delta$-SR不太可能。我们提出了$(\delta, \epsilon)$-SR的概念，这是$\delta$-SR的一个简单松弛，并表明这种解释可以在线性模型上高效计算。