一种基于精确反事实示例的树集成模型可解释性方法

在许多领域中，对机器学习模型决策的信任是其获得认可与采用的关键，因而解释这些模型的决策正变得必不可少。解释模型决策的能力还可在模型决策之外提供诊断，这在故障检测等场景中极具价值。遗憾的是，高性能模型并不具备使其决策完全可理解的必要透明度。而用于解释此类模型决策的黑盒方法，在追溯给定输入下模型决策的确切原因方面存在准确性不足的问题。实际上，它们无法显式描述该输入周围模型的决策区域，而这对于确定是什么引导模型做出某一决策而非另一决策是必要的。我们因此自问：在当前使用的高性能模型中，是否存在某一类模型，使我们能够利用几何刻画在输入特征空间中显式且精确地刻画其决策区域？令人惊讶的是，对于归入树集成模型类别的任何模型，我们得到了肯定答案，该类涵盖 XGBoost、LightGBM、随机森林等广泛的高性能模型。我们可推导其决策区域以多维区间集合形式的精确几何刻画。该刻画使得计算与查询点相关的最优反事实(CF)示例变得直接。我们展示了该方法的多种可能，例如仅基于特征子集计算 CF 示例。这通过加入关于用户可控制变量的先验知识，可获得更合理的解释。我们也设想了针对回归问题 CF 推理的适配。