随机森林的电路表示及其在 XAI 中的应用

本文作出三项贡献。首先，我们提出一种方法，将随机森林分类器编译为一组电路，其中每个电路直接编码了分类器中某一类的实例。我们通过实证研究表明，我们提出的方法在效率上显著优于现有的类似方法。接着，我们利用这一方法进一步获得可计算完整且通用决策原因的电路，这些原因是实例抽象，作为计算解释的基本要素。最后，我们提出算法来计算决策的鲁棒性以及翻转其决策的所有最短路径。我们通过在广泛的数据集上学习的随机森林分类器所做决策，展示了我们的贡献的实用性：枚举所有充分原因、必要原因和对比解释；计算决策的鲁棒性；以及识别随机森林分类器所做出的决策的所有最短翻转方式。